Unsloth에서 제공하는 Qwen3.8 27B 양자화 모델을 FPQA Diamond, IFBench, Terminal-Bench-2.1 벤치마크로 측정했어요. 4비트 양자화(Q4_K_M)가 가장 좋은 성능을 보여줬고, 1비트는 성능이 크게 저하됐어요. Qwen3.8 27B 모델의 양자화 방식 선택에 참고할 만한 결과입니다.
FPQA Diamond, IFBench, Terminal-Bench-2.1 벤치마크에서 Qwen3.8 27B 모델의 양자화 성능을 측정했어요. 4비트 양자화 모델은 안정적인 성능을 유지했지만, 1비트 양자화 모델은 성능이 크게 떨어지는 것을 확인했어요.
Unsloth에서 제공하는 Qwen3.8 27B 모델의 다양한 양자화 방식에 대한 벤치마크 결과가 Reddit에 공유됐어요. 4비트 양자화 모델이 가장 좋은 성능을 보였으며, 1비트 양자화는 성능 저하를 유발하는 것으로 나타났습니다.