사용자가 16GB RAM Mac에서 사용할 수 있는 소형 LLM 모델을 찾고 있어요. 현재는 Gemma 4 12B QAT 모델을 사용 중이며, 더 나은 대체 모델을 추천받고 싶어해요. 주요 용도는 텍스트 익명화와 Pi Agent를 활용한 간단한 코딩 작업이에요.
오프라인 환경에서도 Wikipedia 지식 챗팅이나 Python 게임 제작이 가능해야 한다는 조건을 제시했어요. 인터넷이 끊긴 상황에서도 최고의 모델을 구비하고 싶어해요.
사용자는 DGX Station과 같은 고사양 장비가 없으며, 8~9GB의 가중치를 가진 Gemma 4 12B QAT 모델을 사용하고 있어요.