728x90 기울기소멸1 [DL] 역전파(backpropagation) - 신경망의 손실함수 식 : 다차함수 → 정의하거나 미분하기 어려움 - 신경망의 목적 : 손실함수가 최솟값일 때의 파라미터를 찾아 올바른 학습 결과를 내는 것(회귀분석이나 로지스틱 회귀와 기본 개념이 같음, 단 신경망이 사용하는 파라미터의 개수가 더 많음) - 역전파(backpropagation) 신경망의 파라미터를 효율적으로 찾기 위한 연구 1987년 역전파가 공개됨 뉴런의 가중치를 효율적으로 조정하기 위하여 거꾸로 무엇인가를 전파하는 방식 위의 신경망 모델에서 기대 출력 값과 현재 출력 값의 오차 = 1 역전파 기존 출력값을 지우고 새로운 출력값으로 3을 전달 은닉층 노드 값(3)과 고정값(1)을 비교하여 값이 큰 쪽의 가중치 혹은 편향을 더 크게 조정하여 출력 값을 3이 되도록 조정 편향에서 0.1.. 2021. 5. 13. 이전 1 다음 728x90
