OmniPack은 오디오·비디오 LLM의 토큰 압축 효율성을 높이는 새로운 프레임워크입니다. 구조적 중복 제거와 LLM 내부의 의미 기반 정교화를 결합하여 성능 저하 없이 압축률을 높입니다. Qwen2.5-Omni-7B 모델에서 성능을 98.0% 유지하면서 FLOPs를 16.7%로 줄이는 성과를 거뒀습니다.