[Data Science] 인공신경망 분석

인공신경망 분석

 

인공신경망이란 뇌를 기반으로 한 추론 모델 뉴런이라는 기본적인 정보처리 단위를 기준으로 설계 인간의 뇌는 100억개의 뉴런과 각 뉴런을 연결하는 6조개의 시냅스로 이루어져 있으며 매우 복잡하고, 비선형적이며, 병렬적인 정보 처리 시스템 인공신경망은 뉴런이라는 아주 단순하지만 내부적으로는 매우 복합적으로 연결된 프로세스들로 이루어져 있음 각각의 뉴런은 연결을 통해 여러 입력 신호를 받지만 출력 신호는 오직 하나만 생성 역전파 일고리즘 사용

 

뉴런

 

입력 링크에서 여러 신호를 받아서 새로운 활성화 수준으로 계산하고, 출력 링크로 출력신호를 보내는 역할 뉴런의 입력신호는 미가공 데이터 또는 다른 뉴런의 출력신호도 될 수 있음 뉴런의 출력신호는 문제의 최종적인 해가 되거나 다른 뉴런에 입력신호로 활용 될 수 있음

 

학습

 

가중치를 반복적으로 조정하며 학습 뉴런은 링크로 연결되어 있고, 각 링크에는 수치적인 가중치가 있음 신경망의 가중치를 초기화하고 훈련 데이터를 통해 가중치를 갱신하여 신경망의 구조를 선택하고, 활용할 학습 알고리즘을 결장한 후 신경망을 훈련

 

뉴런의 계산

 

뉴런은 전이함수 (활성화 함수)를 사용 입력신호의 가중치 합을 계산하여 임계값과 비교 가중치의 합이 임계값보다 작으면 뉴런의 출력은 -1, 같거나 크면 +1을 출력

 

활성화 함수

 

시그모이드 함수 로지스틱 회귀분석과 유사 0, 1의 확률값 Softmax 함수 표준화지수 함수로도 불림 출력값이 여러개로 주어지고 목표치가 다범주인 경우 각 범주에 속할 사후확률을 제공하는 함수 Relu 함수 입력값이 0이하는 0, 0이상은 x값을 가지는 함수 딥러닝에서 많이 활용

 

학습 모드

 

온라인 학습 모드 각 관측값을 순차적으로 하나씩 신경망에 투입하여 가중치 추정값이 매번 바뀜 일반적으로 속도가 빠름 훈련자료가 비정상성과 같이 특이한 성질을 가진 경우 더 좋음 확률적 학습 모드 온라인 학습 모드와 같으나, 신경망에 투입되는 관측값의 순서가 랜덤 배치 학습 모드 전체 훈련자료를 동시에 신경망에 투입

 

https://wikidocs.net/48115

3.4.4.인공신경망 분석