은닉 상태 성장
모델의 층이 깊어짐에 따라 내부 벡터인 은닉 상태의 값이 누적되거나 변동성이 커지는 현상이다. 이는 수치적 불안정성을 초래할 수 있으며, 이를 제어하는 것이 대규모 모델의 안정적인 학습에 필수적이다.