캐릭터 레벨 모델링
텍스트를 단어 단위가 아닌 개별 문자 단위로 처리하여 예측하는 방식이다. 어휘 사전 크기를 획기적으로 줄일 수 있지만, 동일한 정보를 전달하기 위해 더 긴 시퀀스를 처리해야 하는 부담이 있다.