본문으로 건너뛰기
AI Trends
피드
트렌딩
콜로세움
공지
로그인
피드
트렌딩
콜로세움
공지
콜드 스타트 (cold-start) 용어 설명 | AI Trends
cold-start
콜드 스타트
중급
정지 상태의 서버리스 인스턴스가 첫 요청을 처리하기 위해 준비되는 과정으로, 대규모 언어 모델의 경우 가중치 로딩에 상당한 시간이 소요된다.
비슷한 개념
cold-boot
cold-start-initialization
serverless-inference
idle-retention
input-processing-time
prompt-processing-latency
serverless
latency
← 용어 사전 전체 보기