연구진이 기존 모델의 복잡도 감소 및 정확도 향상을 위한 'Recirculation' 기술을 개발했어요. 이 기술은 생성 및 추론 작업에서 성능을 높이지만, 사전 처리 단계에서는 순차적 처리가 필요해요. Recirculation은 모델을 동적 시스템으로 만들어 상태를 추적하며, 기존의 복잡한 연쇄 추론 방식과 달리 간단한 상태 추적에 적합해요.
Gemma3 모델에 적용한 결과, 데이터 세트에서 복잡도가 23% 감소하고, GSM8k에서 정확도가 21% 향상되는 등 괄목할 만한 성과를 거뒀어요. 기존 모델 가중치를 동결한 채 가벼운 하이퍼파라미터 튜닝만으로 가능했어요.