728x90 반응형 SMALL AI-driven Methodology76 [ANN] Neural Networks Neural Networks Feedforward / Recurrent Neural Networks 신경망의 가장 기본적인 architecture는 fully-connected Feedforward Neural Network (FNN)이라고 할 수 있다. Feedforward는 neuron이 동일하거나 이전 layer에 연결을 제공하지 않고 단순히 출력을 다음 layer로 전달한다는 의미이다. fully-connected은 layer의 각 neuron이 이전 layer의 모든 neuron에서 들어오는 연결을 가지고 있음을 의미한다. 여기서, 주목할 것은 다른 유형의 신경망 또는 신경망 architecture가 많이 있다. 이것은 모두 동일한 neuron, 가중 연결 및 Activation Function.. 2021. 12. 10. [ANN] CNN (Convolutional Neural Network) CNN (Convolutional Neural Network) CNN은 convolution과 pooling, dense (또는 fully connected)라는 세 가지의 layer을 통해 만들어진다. Convolution layer 0이 검은색, 1이 흰색으로 구성된 0과 1 흑백 5X5 pixel 사진이 있다. 다음으로 임의의 0과 1로 채워진 3X3 행렬이 있다. 이 행렬은 이미지의 하위 집합과 행렬곱을 할 수 있다. 이 곱은 3X3 행렬이 모든 pixel을 반복해서 이동함에 따라 새로운 행렬에 기록된다. ◦ DNN에 비해 파라미터 개수가 현저히 적다. DNN보다 overfitting 문제를 덜 발생시킨다. ◦ filter 함수를 사용해 이미지에서 부분적인 feature를 추출한다. 이때 filt.. 2021. 12. 10. [ANN] 퍼셉트론 (Perceptron) 사람의 뉴런 두뇌의 가장 작은 정보처리 단위이다. 세포체 (cell body)는 간단한 연산하며 수상돌기 (dendrite)는 신호 수신, 축삭 (axon)은 처리 결과를 전송한다. 사람은 1011개 정도의 뉴런을 가지며, 뉴런은 1000개 가량 다른 뉴런과 연결되어 있어 1014개 정도 연결되어 있다. 컴퓨터 인간의 두뇌 처리 소자의 개수 10^8개의 트랜지스터 10^10개의 뉴런 처리 소자의 속도 10^12Hz 10^2Hz 학습 기능 없음 있음 계산 형태 중앙 집중식, 순차적 처리 분산 병렬 처리 뉴런의 기본 동작 신호를 받아들이고, 이 신호가 축삭 돌기를 지나 축삭 말단으로 전달한다. 축삭 돌기를 지나는 동안 신호가 약해지거나, 너무 약해서 축삭 말단까지 전달되지 않거 나 혹은 강하게 전달되기도 한.. 2021. 12. 10. [ANN] SNN (Spiking Neural Networks) SNN (Spiking Neural Networks) SNN (Spiking Neural Networks)은 뇌과학에서 밝혀진 생물학적인 뇌의 뉴런이 출력을 결정하는 메커니즘을 모방하고 기존 신경망의 차이를 좁히는 것을 목표하고 있다. SNN은 기존의 신경망과 근본적으로 다른 구조를 가지고 있는데, 모두가 서로 연결되어 있는 구조가 아닌, 듬성듬성 연결된 extraordinary network topology를 이루고 있다. 이는 생물학적으로 뇌와 비슷한 구조를 지니고 있다는 것을 알 수 있다. SNN은 특정 시점에 발생하는 discrete spike를 통해서 동작한다. spike의 발생 여부는 다양한 생물학적인 프로세스를 나타내는 미분방정식에 의해서 결정된다. 여기서 membrane potential은.. 2021. 12. 10. ANN이란? 인공신경망 (artificial neural network, ANN) 인공신경망 (artificial neural network, ANN)은 생물학의 신경망에서 영감을 얻은 학습 알고리즘이다. 시냅스의 결합으로 네트워크를 형성한 인공 뉴런이 학습을 통해 시냅스의 결합 세기를 변화시켜 문제해결능력을 가지는 비선형 모델이라고도 불린다. 일반적으로 사용되는 기본적인 인공신경망 알고리즘인 다층인공신경망(multi-layer neural network)의 경우 입력층(input layer), 은닉층(hidden layer), 그리고 출력층(output layer),이렇게 세가지 층으로 구분이 된다. 그리고 각 layer들은 노드 (node)들로 구성되어 있다. https://www.asimovinstitute.o.. 2021. 12. 10. [인공지능] ANN / DNN / CNN /RNN 인공지능, 머신러닝, 딥러닝 인공지능(Artificial Intelligence)는 인간의 지능이 갖고 있는 기능을 갖춘 컴퓨터 시스템을 뜻하며, 인간의 지능을 기계 등에 인공적으로 구현한 것을 말한다. 머신러닝(Machine Learning) 혹은 기계학습은 인공지능의 한 분야로, 컴퓨터가 학습할 수 있도록 하는 알고리즘과 기술을 개발하는 분야를 뜻한다. 딥러닝(Deep Learning)은 여러 비선형 변환기법의 조합을 통해 높은 수준의 추상화 (다량의 복잡한 자료들에서 핵심적인 내용만 추려내는 작업)을 시도하는 기계학습 알고리즘의 집합으로 뜻한다. 따라서, 위의 그림처럼 가장 포괄적인 인공지능 분야 안에 머신러닝이 속하고 있고, 머신러닝 분야 속에는 딥러닝 분야가 속해있다고 볼 수 있겠다. ANN (.. 2021. 12. 8. 이전 1 ··· 5 6 7 8 다음 728x90 반응형 LIST
