Pulse · AI 뉴스

과학 논문 기반 다중 회전 생성 경로를 활용한 지속적 사전 훈련

arXiv · 2026-08-26

연구진은 기존 텍스트를 재작성하는 대신 사고 과정을 재구성하는 합성 데이터 방식을 과학 논문 수준으로 확장했어요.

과학 논문의 구조를 활용해 논문을 다중 회전 생성 경로로 분해하고, 모델이 논문 작성 과정을 재구성하도록 설계했어요 (작성 요청, 전체 계획, 각 섹션별 사전 숙고).

이렇게 얻은 지속적 사전 훈련(CPT) 코퍼스는 원본 텍스트보다 약 두 배 크며, 이를 활용해 작성 벤치마크를 개선하고 장문 읽기 능력을 향상시켰어요.

##연구##논문##사전훈련
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기