개발자 devkancheti4-design이 LLM 에이전트의 오작동을 감지하는 오픈소스 도구 'DriftGuard'를 공개했어요.
DriftGuard는 에이전트가 원래 목표에서 벗어나는지, 출력 내용이 일관성을 잃었는지 감지하여 오작동을 방지합니다.
에이전트의 역사적 데이터를 기반으로 관련성(relevance)과 자기 편향(self-drift)을 측정하며, 25회 연속 오류 발생 시 작동을 중단합니다.
에이전트가 오작동하더라도 API 사용 요금은 계속 부과되므로, DriftGuard는 불필요한 토큰 소모를 막아줍니다.