활성화 함수
입력 신호의 총합을 출력 신호로 변환하는 함수로 신경망에 비선형성을 부여하여 복잡한 패턴을 학습할 수 있게 한다. Tanh나 ReLU 등이 있으며 데이터의 특성에 따라 적절한 함수를 선택하는 것이 모델 성능에 직결된다.