본문으로 건너뛰기
AI Trends
피드
트렌딩
콜로세움
공지
로그인
피드
트렌딩
콜로세움
공지
서버리스 추론 (serverless-inference) 용어 설명 | AI Trends
serverless-inference
서버리스 추론
중급
인프라를 직접 관리하지 않고 요청이 있을 때만 자원을 할당하여 모델을 실행하는 방식이다. 모델 로딩 시간과 유휴 자원 유지 정책에 따라 비용 효율성이 크게 달라진다.
비슷한 개념
serverless
inference-cost
serverless-architecture
inference-workload
inference-platform
inference-engine
serverless-api-routes
inference-time
← 용어 사전 전체 보기