Roboetica: tra scienza e realtà

Le tre leggi di Asimov e la questione della coscienza

Le tre leggi possono essere riassunte in un unico comandamento etico: i robot non sono mezzi bellici, non devono combattere l’uomo e anzi lo devono aiutare, a costo della loro stessa integrità. La domanda che ne deriva è quale coscienza possa possedere un organismo tenuto a rispettare queste condizioni.

Analizzando le tre leggi, si arriva al punto di non sapere più da che parte stesse lo stesso Asimov. Se si ammette che la coscienza, in quanto tale, è replicabile, non ha alcun senso definire linee guida che non solo servano da base evoluzionistica, ma debbano manifestarsi con tanta superiorità da oltrepassare ogni altro comportamento. Il robot non può non rispettare quelle regole, e quindi deve essere programmato dall’uomo perché ogni sua interazione con l’ambiente ne sia subordinata: ma ciò equivale ad affermare che la sua coscienza non è autonoma, né capace di generare pensieri astratti e “scollegati” da qualsiasi schema prefissato.

È quindi logico pensare che le macchine fantascientifiche di Asimov non siano altro che automi, alla stregua dei comuni robot usati per compiti pericolosi come lo sminamento o l’ispezione di strutture pericolanti. Questa idea, per quanto naturale, non concorda però con le spettacolari descrizioni dello scrittore, che rispecchiavano la volontà di vedere un giorno “uomini di silicio” eticamente perfetti, ma anche capaci di parlare, ridere, provare emozioni e, perché no, persino innamorarsi.

Due filoni di ricerca contrapposti

Nel campo dell’intelligenza artificiale e della robotica evoluta possiamo delineare due filoni di ricerca che si rifanno epistemologicamente a concezioni opposte. Il primo sostiene che la coscienza non è una prerogativa esclusiva degli esseri umani, ma scaturisce dall’attività biofisica del sistema nervoso, in particolare dalla corteccia cerebrale, e quindi, con opportuni mezzi, può essere replicata: a questa “fazione” appartiene chi scrive. Il secondo, al contrario, attribuisce il pensiero cosciente solo all’uomo e considera il comportamento di qualsiasi macchina intelligente come il risultato di un programma ben progettato ed eseguito da un computer di elevata potenza.

Se la coscienza è replicabile, le regole non si possono imporre

Una vecchia massima recita: “Vuoi la botte piena e la moglie ubriaca”, e al nostro problema si adatta perfettamente: o si spera nella coscienza, oppure la si rifiuta e ci si limita ai programmi. Se si opta per la seconda possibilità, è sempre possibile rispettare le tre leggi, a patto di non costruire “cyborg” da guerra che mirino alla distruzione del genere umano. Ma se si sceglie la prima, e ciò non per presa di posizione bensì per un’attenta analisi dei risultati dell’intelligenza artificiale, delle neuroscienze, della psicologia cognitiva e dell’elettronica, allora bisogna accettarne la conseguenza naturale: le regole morali non possono essere prescritte, ma devono emergere dalla constatazione che il loro rispetto è alla base della conservazione della specie e della qualità della vita.

L’etica è un risultato della coscienza, non il contrario. Se si vuole parlare di etica applicata alle strutture robotiche, occorre prima accettare che nessun ingegnere potrà mai pretendere un’azione piuttosto che un’altra: al massimo potrà correggere gli errori, ma dovrà essere la macchina ad auto-assimilare le nuove regole dopo averle filtrate e adattate alla propria rappresentazione interna dell’ambiente.

Empatia artificiale e neuroni specchio

Un robot “emotivo” dovrebbe essere dotato di una sorta di connessione empatica con l’uomo e con i propri simili. Se un semplice programma lo costringesse ad aiutare una persona in difficoltà, esso svolgerebbe quel compito in modo del tutto incosciente. Se invece si presuppone un cervello artificiale dotato di strutture analoghe ai neuroni specchio (mirror neurons), si potrebbe pensare che il robot, dopo essersi reso conto di una situazione pericolosa, la “viva virtualmente” e prenda di conseguenza la decisione più opportuna.

L’esecuzione letterale delle tre leggi è, del resto, spesso in contrasto con la stessa morale umana. Immaginiamo che un robot assista a una lite tra due persone e che a un certo punto una delle due estragga una pistola e minacci di uccidere l’altra. Cosa deve fare? Apparentemente dovrebbe intervenire per salvare la vita all’uomo disarmato, ma questo non garantisce la riuscita dell’intento: entrambi potrebbero diventare vittime del malintenzionato che, sentendosi minacciato, sarebbe costretto a sparare senza rendersi conto delle conseguenze. Un buon negoziatore agirebbe in modo differente. Nessun programma è in grado di valutare tutte le ipotesi in tempo reale: solo la coscienza empatica, capace di escludere a priori le opzioni palesemente inadeguate, può far comprendere a un astante, umano o artificiale, che qualche buona parola è più che sufficiente a disarmare l’uomo con la pistola.

Vale la pena discutere di roboetica?

Un buon robot evoluto deve certamente essere amico dell’uomo, e la sua “missione” implicita è la convivenza pacifica. È però importante tenere presente che una ricerca scientifica il cui obiettivo sia subordinato a un qualsiasi insieme di imperativi etici non potrà mai forgiare nuove creature: al massimo potrà migliorare gli automi già relativamente diffusi, esattamente come avviene nel campo delle automobili o delle telecomunicazioni.

Vale quindi la pena discutere oggi di roboetica? A mio parere, no. Aspettiamo che la scienza faccia il suo corso e, qualora un giorno ci si dovesse imbattere in un “Terminator”, prima scappiamo e poi, a mente serena, discutiamo del problema, cercando di definire tutte quelle regole che “i nuovi figli dell’uomo” dovranno imparare a rispettare.

Domande frequenti

Quali sono le tre leggi della robotica di Asimov?

Nel loro nucleo etico si possono riassumere in un unico comandamento: i robot non sono strumenti di guerra, non devono nuocere all’uomo e devono anzi aiutarlo, anche a costo della propria integrità. Sono pensate come vincoli assoluti che ogni interazione della macchina con l’ambiente deve rispettare.

La coscienza può essere replicata in una macchina?

È il punto su cui si dividono due filoni di ricerca. Per il primo la coscienza nasce dall’attività biofisica del sistema nervoso, in particolare della corteccia cerebrale, e quindi con mezzi adeguati potrebbe essere riprodotta. Per il secondo il pensiero cosciente è esclusivo dell’uomo, e ogni macchina “intelligente” non fa che eseguire un programma ben progettato.

Perché l’etica non può essere semplicemente programmata in un robot?

Perché l’etica è un risultato della coscienza, non una premessa. Se una macchina fosse davvero cosciente, le regole morali non potrebbero esserle imposte dall’esterno: dovrebbero emergere dal riconoscere che rispettarle è alla base della sopravvivenza e della qualità della vita. L’ingegnere, al più, potrebbe correggere gli errori, ma sarebbe la macchina ad assimilare le regole adattandole alla propria rappresentazione dell’ambiente.

Che ruolo hanno i neuroni specchio in un robot empatico?

Strutture artificiali analoghe ai neuroni specchio permetterebbero al robot non solo di eseguire un ordine, ma di “vivere virtualmente” una situazione e reagire con una forma di empatia. È questa coscienza empatica, e non un programma rigido, a poter valutare in tempo reale scenari complessi, come disinnescare un conflitto con le parole anziché con la forza.