토큰 엔트로피
모델이 다음 단어를 예측할 때 느끼는 불확실성의 정도를 나타낸다. 엔트로피가 높다는 것은 모델이 여러 선택지를 고민하고 있다는 뜻이며, 이는 추론 과정에서 중요한 판단이 이루어지는 지점일 가능성이 높다.