본문 바로가기

신경망 학습

(2)
Chapter 5. 오차역전파법 본 글은 "바닥부터 시작하는 딥러닝" 책을 바탕으로 작성되었습니다.- Chapter4에서 신경망의 가중치 매개변수의 기울기 구할 때, 수치 미분을 사용하였다.- 수치 미분은 구현이 쉽지만 계산 시간이 오래 거리는 단점이 있으므로,    이번 Chapter5에서는 효율적으로 계산할 수 있는 '오차역전파법'에 대해서 학습한다.5.1 계산 그래프- 계산 그래프와 같이, 계산을 왼쪽에서 오른쪽으로 전파하는 단계를 "순전파"라고 한다.- 순전파의 반대 방향의 단계를 "역전파"라고 한다.- 계산 그래프의 이점은 순전파와 역전파를 활용하여, 각 변수의 미분을 효율적으로 구할 수 있다. 5.2 연쇄법칙- 연전파는 '국소적인 미분'을 순반향과는 반대로 전달한다.  (국소적: 자신과 직접 관계된 작은 범위)- 국소적 미분..
Chapter 4. 신경망 학습 본 글은 "바닥부터 시작하는 딥러닝" 책을 바탕으로 작성되었습니다. 4.1 데이터에서 학습한다.- '학습'은 훈련 데이터로부터 가중치 매개변수의 최적값을 자동으로 획득하는 것이다.- 신경망이 학습할 수 있도록 도와주는 지표는 '손실 함수'로, 결과값을 가장 적게 만드는 가중치 매개변수를 찾는 것이 학습 목표이다.4.1.1 데이터 주도 학습- 기계학습은 사람의 개입을 최소화하고, 모아진 데이터로부터 패턴을 찾으려고 시도한다.   예시 1) 이미지에서 특징을 추출하고, 그 특징의 패턴을 기계학습 기술로 학습하는 방법- 이미지 특징인 이미지 데이터를 벡터로 변경하고, 지도 학습 방식의 대표 분류 기법인 SVM, KNN등으로 학습할 수 있다. 4.1.2 훈련 데이터와 시험 데이터- 기계학습에서는 범용적 모델을 ..