엔비디아가 차세대 AI 시스템 '베라 루빈 NVL72'의 에이전틱 AI 벤치마크 '에이전트X' 결과 발표했어요. GB300 NVL72 대비 최대 30배 AI 처리량이 높게 나왔어요.
에이전트X는 실제 코딩 에이전트의 작동 방식을 재현하여 AI 에이전트의 컨텍스트 관리, 도구 호출, 멀티 에이전트 작동 등 복잡한 요소를 평가해요.
KV 캐시 관리, 요청 스케줄링, 모델 병렬화 등 소프트웨어 기술이 AI 서비스 성능과 비용을 좌우하는 핵심 요소로 떠오르고 있으며, 엔비디아는 다이나모를 통해 추론 효율을 높이는 데 집중하고 있어요.