연구진은 에이전트 하니스의 안전성 평가를 위한 새로운 벤치마크 'HarnessRisk'를 공개했어요. 이 벤치마크는 하니스 구성, 기능 확장, 런타임 운영, 상태 유지, 액션 제어, 사고 복구 등 6가지 운영 단계를 포함합니다.
HarnessRisk는 128개의 안전한 사용자 목표와 악성 명령을 결합한 사례를 통해 유틸리티, 공격 성공률, 지속성, 탐지율을 평가하며, 모델과 하니스 구성에 따라 공격 성공률은 12.6%에서 80.9%까지 나타났어요.
연구 결과, 하니스 구성 단계가 가장 취약하며, 명시적인 위험 인식이 있다고 해도 안전한 액션으로 이어지지 않는 경우가 많아, 모델과 하니스 구성 수준에서 안전성을 평가해야 함을 강조했어요.