티스토리 뷰
chapter6 학습 관련 기술들
공부할 내용
최적화 방법 가중치 매개변수 초기값 하이퍼파라미터 설정 방법 오버피팅의 대응책인 가중치 감소와 드롭아웃
6.1 매개변수 갱신
1. 신경망 학습의 목적 : 손실 함수의 값을 가능한 한 낮추는 매개변수를 찾는 것
2. 즉, optimization
3. 확률적 경사 하강법 : SGD, differential을 이용한
4. SGD의 단점 : 비등방성 함수에서는 탐색 경로가 비효율적이다.
5. Momentum 방식
6. AdaGrad 방식'Programming' 카테고리의 다른 글
| [React] 컴포넌트 반복 (0) | 2019.12.07 |
|---|---|
| [React] DOM에 이름 달기 (0) | 2019.12.07 |
| [React] 이벤트 핸들링 (0) | 2019.12.06 |
| [React] 컴포넌트 (0) | 2019.12.06 |
| [React] 리액트 기초 공부-JSX 문법 (0) | 2019.12.06 |
댓글