연구진이 API 상호작용을 통해 블랙박스 LLM에서 숨겨진 추론 과정(Chain-of-Thought, CoT)을 추출하는 공격 기법 'EchoCoT'를 개발했어요.
EchoCoT는 도구 호출과 API 응답 간의 연관성을 활용하여 숨겨진 CoT를 반복적으로 추출하며, LLM 기반 최적화 프레임워크로 다양한 데이터셋에 적용 가능한 공략 경로를 탐색해요.
Gemini-2.5에서 최대 33,463 토큰의 CoT를 추출하는 데 성공하며, 숨겨진 CoT 추출이 현실적인 보안 위협임을 보여줬어요.