Scalex가 AI 에이전트 명령 승인 과정에서 인간이 위협을 놓치는 비율이 33%에 달한다는 연구 결과를 발표했어요. 4만 번의 게임 플레이를 분석한 결과, 인간은 AI 에이전트의 잠재적 위험을 제대로 판단하지 못하는 경우가 많았어요. 이 연구는 AI 에이전트의 안전성을 확보하기 위한 인간 감독의 중요성을 강조하고 있어요.
Scalex는 AI 에이전트가 수행하는 명령의 안전성을 평가하는 과정에서 인간의 인지적 편향과 정보 과부하가 문제라고 지적했어요. 연구 결과는 AI 에이전트의 위험성을 인지하고 적절히 대응하기 위한 새로운 인터페이스와 교육 프로그램 개발의 필요성을 시사하고 있어요.