Reti Neurali e Meccanica Stocastica

Perche introdurre il caso in una rete neurale

Le reti neurali piu note funzionano in modo deterministico: dato un certo ingresso, ogni unita produce sempre la stessa risposta. I neuroni biologici, pero, non si comportano cosi. La loro attivita e soggetta a fluttuazioni, a variabilita e a un certo grado di imprevedibilita. Introdurre una componente stocastica, cioe probabilistica, nel modello significa avvicinarsi a questo dato di realta.

In una rete stocastica lo stato di ciascuna unita non e fissato in modo rigido, ma viene determinato con una certa probabilita che dipende dagli ingressi ricevuti. Questa scelta ha una duplice conseguenza. Da un lato aumenta la plausibilita biologica dell’algoritmo di apprendimento implementato, perche rispecchia la natura rumorosa dell’attivita neurale. Dall’altro apre la porta a strumenti matematici potenti, quelli sviluppati dalla fisica per descrivere sistemi composti da moltissimi elementi.

La meccanica statistica come chiave di lettura

La meccanica statistica e la branca della fisica che descrive il comportamento collettivo di sistemi formati da un enorme numero di componenti, come le molecole di un gas. Invece di seguire ogni singolo elemento, essa ragiona in termini di probabilita, energia e stati piu o meno probabili del sistema nel suo insieme.

L’analogia con le reti neurali e profonda. Anche una rete e composta da moltissime unita che interagiscono, e anche in questo caso interessa il comportamento globale piu che quello del singolo elemento. Applicare gli strumenti della meccanica statistica consente di analizzare in modo quantitativo e obiettivo l’andamento della rete, di definire grandezze misurabili e di prevedere verso quali configurazioni il sistema tende a evolvere. E’ un vantaggio prezioso rispetto a modelli che si possono descrivere solo in modo qualitativo.

Energia e stati stabili

Un contributo fondamentale in questa direzione si deve a John Hopfield, che nel 1982 mostro come certe reti neurali possano essere descritte attraverso una funzione di energia. Il sistema evolve in modo da ridurre progressivamente questa energia, fino a stabilizzarsi in configurazioni corrispondenti a minimi. Questi stati stabili possono essere interpretati come ricordi immagazzinati: presentando alla rete un indizio parziale, essa scivola verso lo stato completo piu vicino, realizzando una forma di memoria associativa. Il parallelo con i sistemi fisici studiati dalla meccanica statistica, come i cosiddetti vetri di spin, e diretto e ha aperto un intero filone di ricerca.

Le macchine stocastiche e il ruolo del rumore

Sull’idea di funzione di energia si innesta il contributo delle reti esplicitamente stocastiche. Un esempio classico e la macchina di Boltzmann, proposta a meta degli anni Ottanta, in cui le unita cambiano stato secondo regole probabilistiche ispirate proprio alla distribuzione statistica che porta il nome del fisico Ludwig Boltzmann.

In questi sistemi il rumore non e un difetto da eliminare, ma una risorsa. La componente casuale consente alla rete di non restare intrappolata nel primo minimo di energia che incontra, permettendole di esplorare configurazioni migliori. E’ lo stesso principio della tecnica di ottimizzazione nota come tempra simulata, che si ispira al raffreddamento controllato dei metalli: partendo da un livello di rumore elevato e riducendolo gradualmente, il sistema ha maggiori probabilita di raggiungere una soluzione complessivamente buona anziche fermarsi in una soluzione soltanto locale.

Comportamenti emergenti e modelli realistici della mente

Il terzo grande vantaggio di queste reti e la loro capacita di sviluppare comportamenti emergenti. Dalla interazione probabilistica di molte unita semplici possono nascere proprieta globali complesse che nessuna singola unita possiede, e che non sono state programmate in modo esplicito. La rete si comporta come un sistema che si organizza da se, in cui l’ordine emerge dal basso.

Per chi studia la mente questi tre elementi, plausibilita biologica, misurabilita quantitativa e capacita di generare comportamenti emergenti, hanno un valore particolare. Sono infatti proprio le caratteristiche che servono a costruire modelli realistici delle capacita mentali e a comprendere come avvenga il passaggio dalla struttura cerebrale, fatta di neuroni e connessioni, alla funzione cognitiva, fatta di percezione, memoria e ragionamento. Le reti neurali stocastiche offrono un ponte concreto tra questi due livelli.

Un dialogo tra fisica e scienze cognitive

L’aspetto forse piu affascinante di questo approccio e il dialogo che stabilisce tra discipline lontane. Concetti nati per descrivere il comportamento della materia, come l’energia, la temperatura e le fluttuazioni statistiche, vengono riletti come strumenti per parlare di memoria, apprendimento e organizzazione dell’attivita mentale. Questo trasferimento non e una semplice metafora: fornisce equazioni e grandezze misurabili con cui mettere alla prova le ipotesi sul funzionamento della rete.

Va ricordato, tuttavia, che si tratta pur sempre di modelli. La loro utilita non sta nel riprodurre fedelmente ogni dettaglio del cervello, ma nell’isolare alcuni principi generali e nel renderli analizzabili con rigore. Proprio per questo le reti neurali stocastiche restano ancora poco utilizzate nelle scienze cognitive rispetto ad altre classi di modelli, pur offrendo vantaggi che meritano un’attenzione maggiore. La loro combinazione di realismo e trattabilita matematica ne fa uno strumento di ricerca promettente per chi vuole comprendere la mente senza rinunciare al controllo quantitativo.

Domande frequenti

Che cosa distingue una rete neurale stocastica da una deterministica?

In una rete deterministica ogni unita, dato un certo ingresso, produce sempre la stessa risposta. In una rete stocastica lo stato di ciascuna unita e determinato con una certa probabilita che dipende dagli ingressi. Questa componente casuale avvicina il modello alla natura rumorosa e variabile dell’attivita dei neuroni biologici.

Che cosa c’entra la meccanica statistica con le reti neurali?

La meccanica statistica descrive il comportamento collettivo di sistemi composti da moltissimi elementi in interazione, in termini di probabilita ed energia. Poiche una rete neurale e anch’essa un sistema di molte unita interagenti, gli stessi strumenti permettono di analizzarne l’andamento in modo quantitativo e di prevedere le configurazioni verso cui tende.

Perche il rumore puo essere utile in una rete neurale?

Perche impedisce alla rete di restare bloccata nel primo stato stabile che incontra. La componente casuale le consente di esplorare configurazioni alternative e di raggiungere soluzioni complessivamente migliori. Su questo principio si basa la tecnica della tempra simulata, ispirata al raffreddamento controllato dei metalli.

Perche queste reti interessano lo studioso della mente?

Perche uniscono tre qualita difficili da trovare insieme: alta plausibilita biologica, possibilita di analisi quantitativa e obiettiva e capacita di generare comportamenti emergenti. Sono proprio gli ingredienti necessari per costruire modelli realistici delle funzioni mentali e per indagare il passaggio dalla struttura del cervello alla funzione cognitiva.