연구진은 LLM의 장기 기억 활용 시 발생하는 문제점, 즉 교차 도메인 유출과 기억 기반 아첨 현상을 분석했어요. 메모리가 모델 컨텍스트에 재주입될 때 부적절한 상황에서 응답에 영향을 줄 수 있다는 문제점을 지적합니다. 구조화된 메모리 형식을 도입하여 교차 도메인 유출을 줄이고 유용성을 유지하는 방법을 제시했어요.
연구 결과, 7개 모델에서 구조화된 메모리 형식이 기존 방식보다 교차 도메인 유출을 평균 8.8% 감소시켰어요. 이 방법은 모델이나 메모리 내용을 변경하지 않고 추론 시에만 적용 가능한 간단한 수정 방식입니다. 메모리 형식을 교차 도메인별로 분리하는 구조화된 형식이 효과적임을 확인했습니다.
이 연구는 LLM의 개인화 기능 개선과 동시에 부작용을 최소화하는 데 기여할 수 있으며, 안전하고 신뢰할 수 있는 대화형 AI 개발에 중요한 시사점을 제공합니다.