본문으로 건너뛰기

피드 트렌딩 콜로세움 공지사항 기술 태그 AI 용어 사전 서비스 소개 문의 운영 정책 개인정보 처리방침

매일 업데이트되는 글로벌 소스의 AI/ML 뉴스를 수집하고 한국어로 요약합니다.

AI Trends·후원

피드 트렌딩 콜로세움 공지

피드 트렌딩 콜로세움 공지

대기열 깊이 (queue-depth) 용어 설명 | AI Trends

queue-depth

대기열 깊이

중급

시스템이 처리하기 위해 대기 중인 요청의 개수로, 현재 처리 용량을 초과한 부하 정도를 나타낸다.

비슷한 개념

resource-contention rate-limit batch-size inference-slot latency-percentile api-quota agentic-depth autoscaling

← 용어 사전 전체 보기