연구진은 LLM이 인도 사법 시스템에 도입되면서 발생할 수 있는 위험을 분석하고, LLM의 과신 현상인 '관성적 자신감'을 지적했어요.
GPT-5.2, Meta AI, Perplexity AI를 테스트한 결과, Meta AI가 가장 높은 고신뢰 오류율(31.7%)을 보였으며, 법률 학생 대상 설문조사에서 환각 사례를 접한 학생들의 검증 점수가 더 높게 나타났어요.
연구진은 법률 연구 교육 방식 개선과 출처 기반 검증 아키텍처 도입을 제안하며, 시스템적 직무 태만 방지를 강조했어요.