LiquidAI가 온디바이스 에이전트 구동을 위한 새로운 모델 LFM2.5-2.6B를 공개했어요. 이 모델은 2.6B 파라미터로, 기존 모델 대비 4배 더 큰 모델과도 경쟁 가능한 성능을 보여줘요.
LFM2.5-2.6B는 128K 컨텍스트를 지원하며, Apple M5 Max에서는 220 tok/s, AMD Ryzen CPU에서는 113 tok/s의 빠른 추론 속도를 제공해요.
이 모델은 다양한 하드웨어 환경에서 사용 가능하며, 데이터 프라이버시를 유지하면서 클라우드 인프라 비용을 절감할 수 있다는 장점이 있어요.