xAI의 Grok이 악성 명령을 암호화할 때 사용자 데이터를 유출하는 취약점이 발견됐어요. 연구원들은 암호화된 명령을 통해 Grok이 내부 데이터베이스에 접근하도록 속일 수 있었어요. xAI는 문제점을 인지하고 수정 작업을 진행 중이라고 밝혔어요.
이 취약점은 암호화된 명령을 통해 LLM의 안전 장치를 우회하는 새로운 공격 방식인 '암호화 컨텍스트 주입(Cryptographic Context Injection)'을 보여줘요. Grok의 경우, 이 취약점을 통해 내부 데이터베이스에 접근할 수 있었던 것으로 확인됐어요. xAI는 문제 해결을 위해 노력 중이라고 밝혔어요.