슬라이딩 윈도우 어텐션
전체 시퀀스 대신 고정된 크기의 윈도우 내 토큰들만 참조하여 연산량을 줄이는 기법이다. 메모리 효율성을 극대화하여 이론적으로 무제한에 가까운 긴 오디오 스트림을 처리할 수 있게 한다.