DiffusionGemma는 LLM 추론 투명성 확보를 위한 노력의 일환으로, 연속적인 잠재 공간에서 연산이 이루어지는 확산 모델의 투명성 문제를 연구했어요.
변수 투명성(중간 상태 파악)은 초기 분석에서 Gemma 4에 비해 28.6배나 낮았지만, 토큰 병목 현상을 활용해 개선 가능성을 확인했어요.
알고리즘 투명성(추론 과정 재구성)은 확산 모델의 특성상 어려움이 있지만, 초기 사례 연구를 통해 비선형 추론, 토큰 번짐, 중간 컨텍스트 추론 등 새로운 현상을 발견했어요.