지도 학습 기반 증류
거대 모델(교사)의 출력을 소형 모델(학생)이 모방하도록 학습시키는 기법입니다. 데이터 확보는 쉽지만 교사 모델의 한계를 넘어서기 어렵고 출력의 다양성이 부족해질 수 있다는 단점이 있습니다.