사용자가 Qwen 모델을 vLLM에서 KV 캐시 오프로딩 설정 시 오류와 크래시를 겪고 있어요. Qwen 아키텍처가 vLLM에서 오프로딩을 지원한다는 기존 이슈와 달리 현재는 작동하지 않는 것 같아요. 다른 사용자의 설정 공유를 요청했어요. Qwen 모델의 KV 캐시 오프로딩 설정 관련 문제 해결 방법을 문의하는 Reddit 게시글입니다. 기존 이슈와 달리 현재는 작동하지 않아 다른 사용자의 설정 공유를 기대하고 있어요.