Adam

개요

모멘텀 기법과 AdaGrad 기법을 합쳐 원소마다 다른 갱신률을 보임과 동시에 운동량을 갖게 한다.