Inclusion AI가 Ling 3.0 Flash/Tiny 베이스 모델을 공개했어요. 이 모델들은 사전 훈련, 중간 훈련, WSM 병합 등 다양한 단계별 체크포인트를 포함하고 있어요. 연구자들은 이 모델들을 활용해 추가 훈련, 파인튜닝, 연구를 진행할 수 있습니다.
사전 훈련 완료 모델은 중간 훈련이나 학습률 감쇠를 거치지 않았으며, 병합 모델은 중간 훈련 체크포인트를 기반으로 병합 과정을 거쳤어요. 최종 훈련된 모델은 Ling-3.0-tiny 및 Ling-3.0-flash에서 확인할 수 있어요.
Hugging Face에서 관련 체크포인트를 다운로드할 수 있어요.