본문으로 건너뛰기
AI Trends
피드
트렌딩
콜로세움
공지
로그인
피드
트렌딩
콜로세움
공지
추론 비용 (inference-cost) 용어 설명 | AI Trends
inference-cost
추론 비용
중급
모델이 학습된 상태에서 새로운 입력을 받아 결과를 내놓을 때 소모되는 계산 자원과 전력을 의미한다. 하드웨어 가동 시간과 전력 소비량에 직결된다.
비슷한 개념
inference-time
test-time-compute
inference-workload
serverless-inference
compute-cost
inference-engine
inference-platform
overthinking
← 용어 사전 전체 보기