프롬프트 처리 지연
사용자가 입력한 프롬프트를 모델이 이해하고 첫 번째 토큰을 생성하기 전까지 걸리는 시간이다. 문맥이 길어질수록 계산량이 늘어나 지연 시간이 증가하며, 이는 대화의 흐름을 끊는 주요 원인이 된다.