Atomic.chat 팀이 DFlash2를 적용해 Qwen 3.8 27B 모델의 추론 속도를 최대 4배까지 향상시켰어요. RTX 6000 GPU를 임대해 4가지 디코딩 방식으로 테스트한 결과, 평균적으로 3배의 속도 향상을 보였어요. Atomic.chat 팀은 HF에 양자화 모델을 공개하고, 로컬 모델 실행을 위한 데스크톱 및 모바일 앱을 개발하고 있어요.
DFlash2는 일부 작업에서 1.5배의 속도 향상에도 그쳤지만, 테스트 작업에 따라 성능 편차가 큰 것으로 나타났어요. 속도 향상된 테스트 영상은 약 30초로 제작됐으며, 화면에 표시된 tok/s와 acceptance %가 실제 성능을 반영해요. Atomic.chat 팀은 사용자 피드백을 환영하며, 지속적인 개선을 약속했어요.
DFlash2에 대한 자세한 내용은 관련 블로그에서 확인할 수 있으며, Atomic.chat 팀은 HF에 양자화 모델을 공개하고 로컬 모델 실행을 위한 앱을 개발하며 사용자 편의를 위해 노력하고 있어요.