Leehands workroom

잘설명하다가 진짜 업데이트는 또 뭔말일까? 지금까지 한것은 가짜란 말이냐? 맞다 가중치를 어떻게 업데이트해야하는가의 핵심적인 질문에 대한 답을 할 수 없다. 지금까지 네트워크의 각 계층에 걸쳐 역전파되는 오차를 구해봤다. 이처럼 오차를 구하는 이유는 인공 신경망이 보다 나은 답을 출력하게 하기 위해서 가중치를 조정해가는 데 지침 역할을 하는 것이 오차이기 때문이다. 이러한 과정은 선형 분류자 예제에서부터 입니다. 신경망에서 노드는 단순한 선형분류자가 아니기때문에 노드는 입력되는 신호에 가중치를 적용한 후 이의 합을 구하고 다시 여기에 시그모이드 활성화 함수를 적용하는 식으로 좀더 복잡한 구조를 가진다. 그렇다면 이처럼 정교한 노드사이를 연결하는 연결 노드의 가중치를 어떻게 업데이트 해야할까? 어떤 끝내주..

여러 노드에서 가중치 학습하기 선형함수의 매개변수인 기울기의 값을 조정해감으로써 선형분류자를 업데이트해나갔던 것을 기억 여러개의 노드가 결과 값과 오차에 영향을 주는 경우에는 가중치를 어떻게 업데이트 할까? 결과 노드에 영향을 주는 노드가 한개인 경우에는 훨씬 간단했지만 이와 같이 2개의 노드를 가지는 경우에는 결과 값의 오차를 어떻게 활용해야 할까요? 오차를 하나의 가중치 업데이트에만 사용하는 것은 합리적이지않다. 위 그림과 같이 연결된 노드에 대해 오차를 균일하게 나누어 분해하는 것 또다른 방법은 오차를 나누어 분배하지만 차별을 두는 것인데 더 큰 가중치를 가지는 연결에 더 큰차를 분배하는 것이다. 우리는 가중치를 두가지방법으로 활용한다는 점을 확인할 수 있다. 신호를 하나의 계층에서 다음 계층으로 ..

생물학적 기본단위는 뉴런(신경세포) 를 보겠습니다. 모든 뉴런은 한쪽끝에서 다른쪽 끝으로 전기신호를 전송합니다. 즉 가지돌기에서 축삭을 거쳐 축삭말단까지 전송하는 것입니다. 인간의 뇌는 약 1천억개 우와 진짜많다, 의 뉴런을 가지고있다. 초파리는 겨우 10만개 정도의 뉴런이 있다고한다. 그럼에도 잘날아다니고 음식을 찾아 섭취하는 등 복잡한 업무를 수행한다. 우리도 좀만 공부하면 초파리정도의 인공지능은 만들 수 있지않을까?? 뉴런의 동작 원리를 알아보자 뉴런은 전기입력을 받아 또다른 전기신호를 발생한다. 이는 분류 또는 예측자에서 입력을 받아 어떤 처리를 하여 결과를 출력하는 것과 매우 유사하다. 뉴런은 입력을 받았을 때 즉시 반응하지 않고 입력이 누적되어 어떤 수준으로 커진 경우에만 출력을 하게 된다. ..