Build Small Hackathon에서 사이버 보안에 특화된 오픈소스 LLM 'OpenMythos'를 공개했어요. 일반 LLM의 보안 취약점을 개선하기 위해 개발됐어요. 1만 건의 ArXiv 논문과 CVE 데이터셋을 활용해 학습했어요. GitHub 저장소를 통해 데모 모델, CVE 데이터셋, 학습 데이터셋을 공개했어요.
SFT(지도 학습) 후 RLVR(강화 학습)을 적용해 모델의 정확성과 불확실성 판단 능력을 높였어요. RLVR은 GitHub의 취약점/수정 브랜치를 활용해 모델의 응답을 검증하는 방식으로 작동해요. 사이버 보안 분야의 전문성을 강화하기 위해 노력했어요.
모델은 취약점 식별, CVE 설명, 보안 코드 리뷰, 완화 전략 등 다양한 사이버 보안 관련 작업을 수행할 수 있어요. 모델의 한계점을 파악하고 피드백을 받고자 하며, RLVR 설정 및 필터링 파이프라인에 대한 자세한 내용은 문의 가능해요.