본문으로 건너뛰기

피드 트렌딩 콜로세움 공지사항 기술 태그 AI 용어 사전 서비스 소개 문의 운영 정책 개인정보 처리방침

매일 업데이트되는 글로벌 소스의 AI/ML 뉴스를 수집하고 한국어로 요약합니다.

AI Trends·후원

피드 트렌딩 콜로세움 공지

피드 트렌딩 콜로세움 공지

초당 토큰 수 (tps) 용어 설명 | AI Trends

tps

초당 토큰 수

입문

LLM의 추론 속도를 측정하는 단위로 1초에 생성되는 텍스트 단위(토큰)의 개수를 의미한다. 수치가 높을수록 사용자가 체감하는 응답 속도가 빠르다.

비슷한 개념

tp-s t-s throughput tokens-per-second token-consumption token-usage end-to-end-response-time ttft

← 용어 사전 전체 보기