NVIDIA Dynamo가 LLM 엔진 프로세스 실패 시 Shadow Engine Recovery 기능을 통해 추론 용량을 초고속 복구하는 방법을 공개했어요. 기존 방식은 HBM에 가중치를 로드하고 커널을 컴파일하는 콜드 리스타트 방식이었지만, Shadow Engine Recovery는 몇 초 안에 복구 가능해요. 이 기능은 LLM 서비스의 가용성을 높이고 다운타임 비용을 절감하는 데 기여할 것으로 기대돼요.