돌아서면 까먹어서

- minimum loss 값을 찾는 것. gradient를 계산하는 것은 가장 급경사를 찾아내는 것이다.Input 개수 = gradient 개수 gradient를 계산하는 방법은 두가지1. numeric gradient : 느리고 근사값이지만 계산 쉬움.2. analytic gradient : 빠르고 정확하지만 미분 필요. 계산 실수가 있을 수 있음. numeric gradient는 도함수 공식을 사용해서 Weight 요소들과 이동간격인 h를 대입해서 gradient를 전부 구해서 update한다. (너무너무 오래걸림..) analytic gradient를 사용하게 되면, 일반적으로 사용하는 미분을 해서 구한다. (바로 답 나옴. 빠르다) gradient check : numeric으로 구한 gradi..