Truman Show

출력층의 활성화 함수 신경망은 분류와 회귀 모두에 이용할 수 있다. 일반적으로 회귀 문제에는 항등 함수를, 분류 문제에는 소프트맥스 함수를 사용한다. 항등 함수 (Identity Function) 입력을 그대로 출력한다. 회귀 문제에 사용된다. 회귀 문제의 특성상 데이터 간의 연속적인 관계가 있어야하기 때문에 다른 활성화 함수가 필요 없다. 소프트맥스 함수 (Softmax Function) 0과 1사이의 실수를 출력한다. 이때 출력값들의 합은 1이다. 분류 문제에서 사용된다. (2종류로 분류하는 문제에는 시그모이드 함수가 사용된다.) 활성화되기 전의 출력값들을 전체와의 비율(확률)로 나타내주는 활성화 함수 소프트맥스 함수를 적용해도 각 원소의 대소 관계는 변하지 않는다. 위의 식 1 대로 사용하면 지수 ..

1. 활성화 함수(Activation Function)란? synapse는 전달된 전기신호가 최소한의 자극 값을 초과하면 활성화되어 다음 뉴런으로 전기신호를 전달한다. 활성화 함수는 이것을 모방하여 값이 작을때는 출력값을 작은겂으로 막고 일정한 값을 초과하면 출력값이 급격히 커지는 함수를 이용한다. 신경망에서는 전달받은 데이터를 가중치를 고려해서 합산하고 그 값을 활성화 함수를 적용해 다음층에 전달한다. 신경망에서는 활성화 함수로 비선형함수를 사용해야 한다. 입력 신호의 총합을 출력신호로 변환하는 함수 입력 신호의 총합이 활성화를 일으키는 지를 정하는 역할 가중치가 곱해진 입력 신호의 총합을 계산하고, 그 합을 활성화 함수에 입력해 결과를 내는 2단계로 처리된다. 입력 신호의 총합 계산 : a = w1x..

1. 신경망의 정의 인공신경망(Artificial Neural Network), 다층 퍼셉트론 입력층과 출력층 사이에 은닉층이 존재 여러층으로 구성되고 시그모이드 함수 등 매끈한 활성화 함수를 사용하는 네트워크 2. 신경망의 구조 입력층(input layer), 은닉층(hidden layer), 출력층(output layer) 입력층 : 주어진 데이터가 입력되는 층으로서, 일반적으로 스칼라 또는 벡터의 형태로 입력됨. 출력층 : 입력층과 은닉층을 거쳐 형성된 최종 데이터를 갖는 층. 해당 데이터를 바탕으로 설정된 작업을 수행. 은닉층 : 은닉층의 뉴런은 사람 눈에 보이지 않는다. 위 그림은 가중치를 갖는 층이 2개이므로 '2층 신경망'이라고 부른다. 보통 은닉층이 1개 일때 '얕은 신경망'이라고 하며, ..

1. 퍼셉트론의 정의 인공 뉴론, 단순 퍼셉트론, 인공 신경망의 한 종류 1943년 미국 신경외과 의사인 워렌 맥컬록에 의해서 발단이 되었고 1957년 프랑크 로젠 블라트가 퍼셉트론 알고리즘을 고안했다. 인간의 뇌의 동작을 전기 신호 on/off로 흉내닐수 있다는 이론을 증명했다. 인간의 신경세포 하나를 흉내냈다. 다수의 신호를 입력받아 하나의 신호를 출력한다. 가장 간단한 형태의 피드포워드 네트워크 2. 퍼셉트론의 구조와 식 2-1 퍼셉트론의 구조 2-2 퍼셉트론의 식 2-3 퍼셉트론 구조와 식 설명 x1, x2 입력 신호 w1, w2 가중치, weight - 각 신호가 결과에 주는 영향력을 조절하는 요소 - 가중치가 클수록 해당 신호가 그만큼 더 중요하다는 뜻 θ 임계값, -b b 편향, bias, ..