본문으로 건너뛰기

피드 트렌딩 콜로세움 공지사항 기술 태그 AI 용어 사전 서비스 소개 문의 운영 정책 개인정보 처리방침

매일 업데이트되는 글로벌 소스의 AI/ML 뉴스를 수집하고 한국어로 요약합니다.

AI Trends·후원

피드 트렌딩 콜로세움 공지

피드 트렌딩 콜로세움 공지

프리필 가속 (prefill-speedup) 용어 설명 | AI Trends

prefill-speedup

프리필 가속

중급

LLM이 입력을 처음 받아 처리하는 단계의 속도를 높이는 것으로, 첫 번째 토큰이 나오기까지의 지연 시간을 줄이는 데 중요합니다.

비슷한 개념

prefill prefilling chunked-prefill prompt-processing-latency prefix-caching input-processing-time prompt-caching token-optimization

← 용어 사전 전체 보기