하이퍼 파라미터 설정 1. 초기값 : 가중치(W), 바이어스(b) 가중치의 초기값을 0으로 default를 주고 시작하면 올바른 학습을 기대하기 어렵다. 오차역전파에서 가중치의 값이 똑같이 갱신되기 때문 np.random.randn()을 사용하여 무작위로 가중치를 설정하는 것을 볼 수 있다. 2. epoch (에폭) 신경망에서 전체 데이터에 대해서 순전파와 역전파가 끝난 상태 1 epoch = 전체 데이터셋을 1회 학습 epoch 횟수가 지나치면 과적합(Overfitting)이 발생할 수 있다. 3. step (스탭) 1 step = 가중치와 바이어스를 1회 업데이트 한 것 4. batch size (배치 크기) 1 step에 사용한 데이터의 수 몇 개의 데이터 단위로 매개변수를 업데이트 하는지 5. i..
