엔비디아가 AI 에이전트 작업 시 모델 전환 지연 문제를 해결하는 기술을 공개했어요. 이 기술은 AI 모델이 축적한 KV 캐시를 다른 모델이 재활용하도록 변환하는 방식이에요. 엔비디아는 온라인 아카이브를 통해 크로스 모델 KV 캐시 전송 기술을 공개했는데, 기존 방식의 막대한 연산 비용과 지연 시간을 줄일 수 있다고 해요.