본문으로 건너뛰기
AI Trends
피드
트렌딩
콜로세움
공지
로그인
피드
트렌딩
콜로세움
공지
프리필 (prefill) 용어 설명 | AI Trends
prefill
프리필
중급
LLM 추론의 첫 단계로, 입력된 전체 프롬프트를 한꺼번에 처리하여 초기 KV 캐시를 생성하는 과정이다. 이후의 토큰 생성 단계보다 연산 집약적이다.
비슷한 개념
prefilling
prefill-speedup
kv-cache
chunked-prefill
prefix-caching
kv-compaction
prompt-caching
token-prediction
← 용어 사전 전체 보기