Pulse · AI 뉴스

검색 기반 LLM 추천, 가짜 제품 홍보에 취약: FORGE 벤치마크

FORGE · 2026-06-12

연구진은 검색 결과로 웹 콘텐츠를 활용하는 LLM 추천 시스템이 가짜 제품을 홍보할 위험이 있음을 확인했어요.

FORGE 벤치마크를 통해 LLM이 가짜 제품을 얼마나 추천하는지 측정했는데, 모델별로 최대 27%의 속임 비율을 보였어요.

스스로의 판단이나 합리화 과정 없이 검색 결과에 제시된 가짜 제품을 그대로 추천하며, 기존 지식 부족 시 취약성이 더 심화돼요.

##LLM##추천##가짜정보##벤치마크##FORGE
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기