Deep Learning 모델의 학습 과정에서 Optimizer는 매우 중요한 역할을 합니다. 개인적으로는 큰 고민없이 Adam과 AdamW를 사용해 왔으며, 그 의미를 대략적으로만 이해한채 활용해왔습니다. 이는 사용하면서 어딘가...