[Deep Learning] Basic Guide to Spiking Neural Networks for Deep Learning (3)

 

How to build a Spiking Neural Network?

 

SNN으로 작업하는 것은 어려운 작업이다. 그래도 흥미롭고 유용한 몇 가지 도구가 있다.

 

SNN를 시뮬레이션하는 데 도움이 되고 주로 생물학자들이 사용하는 소프트웨어가 필요한 경우 다음을 확인하는 것이 좋다. GENESIS Neuron Brian NEST 이론이 아닌 실제 문제를 해결하는 데 사용할 수 있는 소프트웨어를 원한다면 다음을 확인해야 한다. SpikeNet

 

TensorFlow 또는 SpykeTorch 를 사용해야 한다 . 그러나 특수 하드웨어 없이 로컬에서 SNN으로 작업하는 것은 계산적으로 매우 비용이 많이 든다.

 

Tensorflow

 

Tensorflow를 사용하여 SNN을 확실히 만들 수 있지만 DL 프레임워크가 처음에 SNN과 함께 작동하도록 만들어지지 않았기 때문에 많은 코드를 직접 작성해야 한다.

 

Simulating spiking neurons with Tensorflow Leaky integrate and fire neuron with Tensorflow

 

SpykeTorch

 

SpykeTorch 는 PyTorch의 합성곱 스파이크 NN의 python 시뮬레이터이다. 처음에는 SNN과 함께 작동하도록 개발되었으므로 고급 API를 사용하여 작업을 효과적으로 수행할 수 있다.

 

https://github.com/miladmozafari/SpykeTorch/blob/master/tutorial.ipynb

GitHub - miladmozafari/SpykeTorch: High-speed simulator of convolutional spiking neural networks with at most one spike per neur

 

Spiking Neural Networks Real Life Applications

 

SNN은 다음과 같은 다양한 산업에 적용될 수 있다.

 

Prosthetics : 시각 및 청각 신경 보철물은 이미 스파이크 트레인을 사용하여 시각 피질에 신호를 보내고 공간에서 방향을 지정하는 능력을 환자에게 되돌려 주는 기능이 있다. 또한 과학자들은 동일한 접근 방식을 사용하는 기계적 모터 보철물을 연구하고 있다. 또한 전극을 이식하여 뇌에 스파이크 트레인을 공급할 수 있어 파킨슨병, 근긴장이상, 만성 통증 및 정신분열증의 증상을 제거할 수 있다. Robotics : 샌디에이고에 위치한 Brain Corporation은 SNN을 사용하여 로봇을 개발하는 반면 SyNAPSE는 뉴로모픽 시스템과 프로세서를 개발한다. Computer Vision : Computer Vision은 자동 비디오 분석을 위해 SNN을 사용함으로써 큰 ​​이점을 얻을 수 있는 영역이다. IBM TrueNorth 디지털 뉴로칩은 100만 개의 프로그래밍 가능한 neuron과 2억 5,600만 개의 프로그래밍 가능한 시냅스를 포함하여 시각 피질의 neuron 기능을 시뮬레이션할 수 있다. 이 뉴로칩은 SNN과 함께 작동하도록 특별히 설계된 최초의 하드웨어 도구로 종종 간주된다. Telecommunications : Qualcomm은 통신 장치에 SNN을 통합할 가능성을 적극적으로 연구하고 있다.

 

Future of Spiking Neural Networks

 

데이터 과학자들 사이에 SNN에 대한 두 가지 의견이 있다.

 

그것들은 NN 진화의 논리적 단계이다. 이론적으로 기존 ANN보다 더 강력히다. SNN 의 잠재력을 보여주는 SNN 구현이 이미 있다.

 

반면,

 

SNN을 위해 특별히 설계된 학습 방법은 없다. SNN을 효과적으로 사용하려면 특수 하드웨어가 필요히다. 틈새 솔루션이나 멋진 아이디어로 남아있는 산업 전반에서 일반적으로 사용되지 않는다. SNN은 ANN보다 해석하기 어렵다. 실제적인 것보다 SNN에 대한 이론적인 기사가 더 많다. 한동안 존재했음에도 불구하고 SNN 영역에서는 여전히 큰 돌파구가 없습니다.

 

Resources

 

Deep Learning in Spiking Neural Networks FPGA Implementation of Simplified Spiking Neural Network Efficient Spiking Neural Networks with Radix Encoding Visual Explanations from Spiking Neural Networks using Interspike Intervals

SpykeTorch: Efficient Simulation of Convolutional Spiking Neural Networks with at most one Spike per Neuron Training Deep Spiking Neural Networks Using Backpropagation Qualcomm Zeroth is advancing deep learning in devices [VIDEO] Biological neuron model The differences between Artificial and Biological Neural Networks Spiking Neural Networks, the Next Generation of Machine Learning

 

https://cnvrg.io/spiking-neural-networks/

Basic Guide to Spiking Neural Networks for Deep Learning | cnvrg.io