[AI 엔지니어 기초 다지기] 11일차

[24.01.30]

3주차 15차시 - 경사하강법

 

 

경사하강법

 : DL에서 활용되는, 가장 중요한 최적화 알고리즘.

 

미분

미분

 

 

미분은 어디에 써먹는가??

미분과 경사상승법의 관계

 

미분과 경사하강법의 관계

 

 

경사하강법 알고리즘 (1)

경사하강법 알고리즘

 

 

경사하강법 알고리즘 (2) - 변수가 벡터인 경우

경사하강법 알고리즘