본문으로 건너뛰기

피드 트렌딩 콜로세움 공지사항 기술 태그 AI 용어 사전 서비스 소개 문의 운영 정책 개인정보 처리방침

매일 업데이트되는 글로벌 소스의 AI/ML 뉴스를 수집하고 한국어로 요약합니다.

AI Trends·후원

피드 트렌딩 콜로세움 공지

피드 트렌딩 콜로세움 공지

초당 토큰 수 (tp-s) 용어 설명 | AI Trends

tp-s

초당 토큰 수

입문

LLM이 1초당 생성하는 텍스트 단위(토큰)의 개수이다. 모델의 추론 속도를 나타내는 핵심 지표로, 수치가 높을수록 사용자 응답 속도가 빠르다.

비슷한 개념

tps t-s throughput tokens-per-second ttft token-consumption token-usage end-to-end-response-time

← 용어 사전 전체 보기