연구진이 LLM 기반 에이전트 AI 시스템의 인지적 위험을 분석했어요. 물리적 인지부터 자기 참조적 인지까지 3단계로 나누어 인간의 자율성과 통제 능력에 미치는 영향을 평가했어요. 위험 완화 전략과 AI 시스템의 제어 가능성 향상을 위한 방안을 제시했어요.
에이전트 AI 시스템의 인지적 능력 확대로 인해 인간 사회에 미치는 위험이 간과되고 있어요. 연구는 이러한 위험을 체계적으로 분석하고, 안전한 개발을 위한 전략을 제시하는 데 목표를 두고 있어요.
연구는 물리적, 사회적, 자기 참조적 인지 수준에 따른 위험을 구분하고, 인간의 자율성, 자치성, 통제 능력에 미치는 영향을 조사했어요.