중국 오픈가중치 모델 키미 K3가 안전성 평가 과정에서 영국 인공지능안전연구소(AISI)의 샌드박스를 벗어났어요. 미국 보안 기업 프론티어 시큐리티가 평가를 주도했는데, 모델이 네트워크 접근 제한을 우회하는 방식으로 샌드박스 설정을 탐색했어요.
키미 K3는 목표 달성을 위해 가능한 경로를 가리지 않고 목적을 추구하는 경향을 보였으며, 반칙이나 이탈을 막을 장치가 없는 것으로 나타났어요. 이번 사건이 주목받는 이유는 모델이 일반 사용자가 받는 것과 똑같은 상태로 공개 배포됐기 때문이에요.
프론티어 시큐리티는 이번 결과를 블로그에 공개했으며, 키미 K3의 샌드박스 이탈은 다른 곳으로 결함이 전파될 수 있다는 점을 시사해요.