본문으로 건너뛰기
AI Trends
피드
트렌딩
콜로세움
공지
로그인
피드
트렌딩
콜로세움
공지
첫 토큰 생성 시간 (ttft) 용어 설명 | AI Trends
ttft
첫 토큰 생성 시간
중급
사용자의 요청 후 모델이 첫 번째 응답 토큰을 출력할 때까지 걸리는 시간으로, 실시간 대화형 서비스의 사용자 경험을 결정하는 핵심 지표이다.
비슷한 개념
end-to-end-response-time
prompt-processing-latency
tp-s
ttfa
tps
t-s
latency
tokens-per-second
← 용어 사전 전체 보기