Pulse · AI 뉴스

필터와 생성자 간의 불일치 활용: 제로쿼리 텍스트-이미지 시스템 탈옥 방법

Mind the Gap · 2026-08-02

연구진은 텍스트-이미지 생성 시스템의 안전 필터를 우회하는 제로쿼리 탈옥 프레임워크를 제안했어요. 필터와 생성자 간의 불일치(FGD)를 활용하여 필터의 위험 인식은 줄이면서 생성 의도를 유지하는 방법을 사용해요.

FGD를 기반으로 하는 이 방법은 토큰화 및 의미 단계에서 관찰 가능한 불일치 규칙을 통해 잠재력이 높은 후보군을 선별하고, 타겟 시스템에 접근 없이 서브셋 기반 진화 탐색을 수행해요.

실험 결과, 6개의 블랙박스 파이프라인과 상용 온라인 서비스에서 기존 방법보다 공격 성공률이 평균 8~12%p 향상된 29.2% (MHSC) 및 33.3% (Q16)를 달성했어요.

##AI보안##텍스트이미지##탈옥##제로쿼리##FGD
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기