자기 증류
모델이 스스로 생성한 고품질의 결과물이나 특정 조건(예: 힌트 제공) 하에서의 출력을 다시 자신의 학습 데이터로 사용하는 기법이다. 본 논문에서는 시각적 힌트가 있을 때의 정확한 추론 과정을 힌트가 없을 때도 따라 하도록 만들어 모델의 성능을 내재화하는 데 사용된다.