연구 결과, LLM 출력 간결화 옵션을 사용하면 비용을 절감하면서도 정확도를 유지할 수 있어요. Claude Opus 4.7의 간결한 출력 스타일이 대표적 사례입니다.
입력 프롬프트를 줄이는 방식은 오히려 비용을 증가시키고 정확도를 떨어뜨려 비효율적이었어요. 모델이 프롬프트 누락분을 채우려 더 긴 답변을 생성하기 때문입니다.
출력 토큰 비용이 입력 토큰보다 비싸므로, 출력 토큰 수를 줄이는 프롬프팅이 단일 턴 작업에서 비용 절감에 효과적입니다.
간결화된 출력이 정확할 경우, 모델의 추론 과정과 일치하지 않는 경우가 절반 정도 발생하는데, 최종 답변만 필요하다면 큰 문제는 없을 수 있습니다.