Spiking Neural Network

Le reti neurali di questo tipo sono chiamate reti neurali di terza generazione.

Le reti neurali artificiali di prima generazione (ANN) sono costituiti da strati di percettroni che nel calcolatore funzionano producendo dei numeri (tramite somme e prodotti degli strati precedenti). All'interno di un percettrone sono assegnati inizialmente dei valori (in una fase di addestramento iniziale). I valori sono stabiliti in modo che il comportamento dei percettroni permetta di approssimare il comportamento di una funzione matematica.

L'elaborazione dei numeri avviene uno strato alla volta, nel tempo discreto, perché l'input di uno strato dipende dall'output dello strato precedente.

Le reti neurali artificiali di terza generazione (SNN) cercano di simulare il comportamento di un neurone, introducendo anche il fattore tempo continuo, cioè considerando anche il tempo che intercorre tra l'output di un neurone e l'input del neurone successivo. Inoltre si considera anche che la generazione dell'output non avvenga sempre al momento dell'analisi dello stato del neurone, ma che sia un evento che dipende dal tempo e dallo stato dei neuroni adiacenti.

I tempi relativi di attivazione tra due neuroni può determinare, inoltre, una modifica dei pesi sinaptici. Per approfondire si veda anche somma di afferenze sinaptiche.

In quest'ultimo tipo di reti neurali ci sono diversi tipi di sinapsi oltre a quelle statiche, per rappresentare correttamente il funzionamento delle diverse aree di un cervello. Tuttavia, anche in questo caso ci deve essere per forza una fase di addestramento, ma potrebbe essere un tipo di addrestramento diverso dal solito, proprio perché anche i modelli di sinapsi utilizzati sono diversi da quelli delle reti ANN.

http://en.wikipedia.org/wiki/Neural_coding

http://upload.wikimedia.org/wikipedia/commons/thumb/4/49/Dirac_comb.svg/320px-Dirac_comb.svg.png In pratica ogni cellula è attraversata da una sequenza (o treno) di impulsi (spike train). Rispetto a questa figura gli impulsi di solito possono avere intensità diverse. Il segnale impulsivo può essere rappresentato numericamente (per rappresentare la sua intensità nella simulazione) modificando le caratteristiche degli impulsi, come:

  • l'intensità degli impulsi
  • la frequenza degli impulsi, firing rate, vedere simulatore ANNarchy
  • interspike intervals (ISI)
  • la durata degli impulsi
  • spike directivity (SD)
  • rate coding: metodo usato dai recettori muscolari, in cui l'intensità del segnale è trasformata in una frequenza (di impulsi). Una frequenza media nel tempo, oppure, una frequenza media su un certo numero di neuroni… sembra necessario molto tempo su cui fare la media…
  • temporal coding: metodo usato dai recettori visivi della retina, in cui l'intensità del segnale è trasformata in una distanza temporale (tra impulsi). Un ritardo tra qualsiasi neurone, oppure, un ritardo su uno specifico neurone… sembra soggetto a variazioni spurie jitter
  • rank order coding: non è un metodo biologico, ma sembra efficace per le immagini. Simile al temporal coding, si pone attenzione all'ordine con cui arrivano impulsi a diversi neuroni. 6 Neuroni, 6! ordini disponibili.
  • population coding: metodo usato dai muscoli, in cui l'intensità del segnale determina quale neurone attivare, su un vettore ordinato di neuroni. Ad esempio, se devo misurare l'angolo di un motore, di 45°, e ho a disposizione un vettore di 8 neuroni: effettuo prima una convoluzione con gaussiana, centrandola su 45°, e tutti i neuroni trasporteranno un po' di segnale.

Spike directivity

La spike directivity è la direzione di propagazione preferita del segnale elettrico (flusso di cariche) durante ogni potenziale d'azione e può essere approssimata con un vettore 1) Ovviamente questa direzione di propagazione dipende da diversi fattori, ma tra questi non si può dimenticare che esiste anche la struttura (direzione) dei dendriti. La rappresentazione di questo vettore (x,y,z) avviene in coordinate sferiche, in un diagramma tridimensionale, in cui il neurone si trova all'interno di una sfera di raggio unitario.

Reading the Neural Code: What do Spikes Mean for Behavior? (2007)

L'articolo 2) afferma che c'è una correlazione temporale tra gli impulsi e si possono interpretare delle sequenze associabili ad eventi. Tali eventi sono del tipo “tutto oppure niente”. Oltre alla caratterizzazione temporale degli impulsi si deve considerare anche la loro “direzionalità” (spike directivity).

Con il procedere dell'apprendimento di un topo che deve ricordare il percorso corretto, si nota che al momento della decisione di voltare in una direzione, il numero di impulsi diminuisce con l'apprendimento ma la directivity si mantiene. Si può concludere che l'apprendimento rende più efficiente la funzione svolta dalla directivity degli impulsi.

A comparative analysis of integrating visual information in local neuronal ensembles (2012)

L'articolo 3) riporta le differenze di Spiking directivity dell'attività di un neurone durante il riconoscimento e classificazione delle immagini (volti, animali e panorami) I singoli neuroni possono codificare caratteristiche di particolari oggetti 4). L'analisi riguarda i neuroni del Lobo Temporale Mediale (MTL). I potenziali di azione non sono impulsi tra loro identici e quindi non devono essere neanche simulati numericamente in modo identico. Ipotesi: una misura accurata dell'informazione elaborata dai neuroni può essere ottenuta misurando:

  1. firing rate
  2. distribuzione di ISI
  3. caratteristiche del vettore spike directivity

Conclusione: si osserva una possibile misura dell'informazione nello spike directivity ma non nel firing rate e nemmeno nell'ISI.

Neuroelectrodynamics (2010)

Secondo il libro Neuroelectrodynamics 5) i tradizionali modelli spike timing theory, basati sulla codifica (visuale) della separazione degli impulsi (oppure durata in millisecondi) limita la comprensione del funzionamento del cervello. Si ipotizza che questo modello sia un caso speciale di un modello teorico più ampio chiamato: NeuroElectroDynamics (NED) che tiene conto dei cambiamenti macromolecolari che avvengono durante le modifiche del campo elettrico all'interno dei neuroni. Esperimenti in-vivo su animali evidenziano lacune del modello tradizionale

PubMed Central® (PMC) is a free full-text archive of biomedical and life sciences journal literature


1)
Aur D., Connolly C.I., Jog M.S., (2005) Computing spike directivity with tetrodes, Journal of Neuroscience Methods, 149 (1), pp. 57–63.
5)
ISBN 978-1-60750-091-9 (print) | 978-1-60750-473-3 (online)
  • neurali/spiking_neural_network.txt
  • Last modified: 2018/04/25 07:55
  • (external edit)