구글이 AI 에이전트의 잠재적 오정렬 위험에 대비한 내부 시스템 보안 강화 로드맵을 발표했어요. 이 로드맵은 기존 모델 정렬 방식에 더해 시스템 수준의 보안을 강화하는 것을 목표로 해요.
새로운 로드맵은 AI 에이전트를 잠재적 내부 위협으로 간주하고, MITRE ATT&CK 프레임워크 기반의 위협 모델링을 통해 위험을 체계적으로 관리해요. 이를 통해 악성 행위를 사전에 감지하고 방어할 수 있어요.
구글은 AI 에이전트의 능력 향상에 맞춰 실시간 방어 체계를 구축하고, 100만 개의 에이전트 경로 데이터를 분석하여 실시간 모니터링 시스템을 구축할 예정이에요.