Reddit 사용자가 NVIDIA RTX Pro 6000 및 RTX 5090 서버를 보유하고 있으며, 향후 VRAM 용량을 늘리려 합니다. Intel/AMD GPU의 가성비가 좋지만, NVIDIA/CUDA 스택과 비교했을 때 활용 경험을 문의했어요.
NVIDIA 외 GPU를 활용한 인퍼런스 경험에 대한 의견을 공유하며, CUDA 스택과의 성능 비교에 대한 질문이 주를 이뤘습니다. 현재 서버 환경에서 NVIDIA GPU를 사용 중인 사용자의 질문입니다.