728x90 반응형 SMALL 소프트맥스2 [Deep Learning] 활성화 함수 구현 Sigmoid import numpy as np def sigmoid(x): return 1/(1+np.exp(-x)) sigmoid(4) 0.9820137900379085 import matplotlib.pyplot as plt x = np.arange(-10, 10, 0.01) y = sigmoid(x) plt.plot(x, y) ReLU def relu(x): return np.maximum(0, x) x = np.arange(-10, 10, 0.01) y = relu(x) plt.plot(x, y) Softmax def origin_softmax(x): f_x = np.exp(x) / np.sum(np.exp(x)) return f_x x = np.array([1.3, 5.1, 2.2, 0.7, .. 2022. 11. 17. [AI] Feed Forward ∙ One Hot Encoding ∙ Softmax Feed Forward 신경망의 입력층 (input layer)으로 데이터가 입력되고, 1개 이상으로 구성되는 은닉층 (hidden layer)을 거쳐서 출력층(output layer)으로 출력 값을 내보내는 과정이다. import numpy as np # 활성화함수 sigmoid def sigmoid(x): return 1 / (1 + np.exp(-x)) input_data = np.array([1, 2]) # 입력데이터 target_data = np.array([1]) # 정답데이터 input_nodes = 2 # 입력노드 hidden_nodes = 3 # 은닉노드 output_nodes = 1 # 출력노드 W2 = np.random.rand(input_nodes, hidden_nodes) b2 =.. 2022. 7. 17. 이전 1 다음 728x90 반응형 LIST
