[2주차 / DL 1팀 / 논문 리뷰] Neural Networks for Machine Learning
Overview of mini-batch gradient descent The error surface for a linear neuron * error surface는 각 weight를 horizontal axis, error를 vertical axis로 두는 공간에 있음 => quadratic bowl모양으로, vertical cross-section은 parabolas(포물선), horizontal cross-section은 ellipses(타원)형으로 나온다. * multi-layer이며 non-linear인 net들의 error surface는 더 복잡하지만 보통 quadratic bowl로 좋은 예측이 가능하다. * Learning rate가 클 경우 진폭이 튀게된다 -> 빠르게 움직이지만 작..
2023 Summer Session/DL
2023. 7. 20. 13:26
