sav

희소 어텐션 벡터(Sparse Attention Vectors)는 모델 전체를 미세 조정하는 대신, 특정 작업에 가장 효과적인 소수의 어텐션 헤드만을 선택적으로 활용하는 비학습형 성능 개선 기법입니다. 연산 자원을 아끼면서도 특정 도메인에 맞춰 모델의 성능을 최적화할 수 있는 장점이 있습니다.