어텐션 점수
트랜스포머 모델이 문장 내 특정 단어들 사이의 연관성을 계산하여 부여하는 가중치이다. 모델이 다음 단어를 예측할 때 어떤 입력 단어에 더 집중해야 하는지를 수치로 나타내며, 문맥 이해의 핵심 지표로 활용된다.