Lumiere, and s5unnyjjj

DL - Problem #3 : GD(Gradient Descent)를 이용한 가중치 업데이트 (1) 본문

Artificial Intelligence/Deep Learning

DL - Problem #3 : GD(Gradient Descent)를 이용한 가중치 업데이트 (1)

s5unnyjjj 2021. 5. 10. 23:20
반응형

Problem #3 : GD(Gradient Descent)를 이용한 가중치 업데이트 (1)


하단의 표를 이용하여 아래의 그림에 표시된 w3의 업데이트 값을 계산하시오. 

단, 초기 w1, w2, w3의 값은 1이며, 활성화 함수(Activation function)은 ReLU를 사용한다. 또한 learning rate는 1이다.

Error function은 MSE로 하단에 표시된 식과 같다. 

풀이를 원하실 경우, 하단의 '더보기' 를 클릭해주시기 바랍니다.

더보기

아래의 내용은 필자가 직접 작성한 풀이입니다.


>> 위 내용은 필자가 공부하여 직접 정리한 내용이며, 위 그림 역시 직접 그린 그림이므로 워터마크 "s5unnyjjj"를 삽입하였음을 알려드립니다.

>> 부족한 점이 많을 수 있기에 잘못된 내용이나 궁금한 사항이 있으면 댓글 달아주시기 바랍니다.

>> 긴 글 읽어주셔서 감사합니다. 

반응형
Comments