Luna AI Blog

딥러닝 Normalization (Batch Normalization, Layer Normalization, Instance Normalization, Group Normalization 비교)

이번 게시물에서는 딥러닝에서 중요한 개념인 Normalization에 대해 정리해보자. Network를 구성할 때 layer의 앞 또는 뒤에 추가되는 normalization의 필요성에 대해 정리하고, 다양한 normalization 방법에 대해 차이점 위주로 간단하게 정리해 보자. Normalization 이란? Normalization이란...