시맨틱 라우팅
입력된 프롬프트의 의미를 분석하여 가장 적합한 모델로 요청을 전달하는 기술이다. 키워드, 임베딩 유사도, LLM 분류기를 조합하여 비용이 저렴한 모델과 성능이 높은 모델 사이에서 최적의 경로를 찾는다. 이를 통해 전체 시스템의 운영 효율성과 비용 최적화를 동시에 달성할 수 있다.