SK텔레콤이 자체 AI 파운데이션 모델 ‘A.X K2’의 활용 편의성을 높이기 위해 메모리 절감 및 추론 가속 기술을 공개했어요.
A.X K2 NVFP4는 양자화를 통해 모델의 최소 필요 메모리를 약 43% 줄여, 엔비디아 B200 GPU 4개로 운영 가능하도록 했어요.
SK텔레콤은 A.X K2 EAGLE3, DSpark, GGUF 등 다양한 기술을 제공하여 기업과 기관이 비용과 성능, 장비 환경에 맞춰 AI 운영 방식을 선택할 수 있도록 지원해요.