Quando una macchina decide: Autoresearch di Karpathy e il concetto di agency in psicologia cognitiva

Cos’è l’agency in psicologia

Il termine indica il senso di essere l’autore delle proprie azioni, e in psicologia è studiato come esperienza prima che come proprietà oggettiva.

Il modello prevalente lo descrive come una ricostruzione: il senso di aver causato qualcosa emerge dal confronto fra l’intenzione, la previsione dell’effetto e l’esito osservato.

Ne segue un dato controintuitivo: il senso di agency può essere indotto in laboratorio per azioni non compiute, e può essere assente per azioni realmente compiute. Non è un rilevatore affidabile di ciò che abbiamo fatto.

Va aggiunto un fenomeno documentato: quando un’azione produce un effetto, l’intervallo fra le due cose viene percepito come più breve di quanto sia. È una misura implicita del senso di controllo, e si riduce quando l’azione è imposta anziché scelta.

Cosa succede quando la decisione è automatizzata

Alcuni effetti sono documentati in ambiti dove i sistemi automatici sono già in uso.

La diffusione della responsabilità: quando una decisione è mediata da un sistema, la responsabilità percepita di chi lo usa si riduce, e questo vale anche quando la decisione finale resta umana.

Il bias di automazione: la tendenza ad accettare i suggerimenti di un sistema anche quando sono sbagliati, e a non cercare informazioni che li contraddicano. È documentato in ambiti critici, dall’aviazione alla medicina.

Il fenomeno opposto e altrettanto reale, l’avversione: dopo aver osservato un errore, le persone abbandonano il sistema più rapidamente di quanto abbandonerebbero un umano che sbaglia allo stesso modo.

E la perdita di competenza: quando una funzione viene delegata a lungo, l’abilità corrispondente si riduce, e questo diventa un problema proprio nei momenti in cui il sistema fallisce.

La domanda mal posta

Chiedersi se una macchina «decida» porta fuori strada, e per una ragione precisa.

Ciò che possiamo osservare è il comportamento, non l’esperienza. Sull’esistenza di un’esperienza interna in un sistema non abbiamo alcun criterio, e la questione non è risolvibile con gli strumenti disponibili.

Ciò che invece è verificabile riguarda noi: la tendenza ad attribuire intenzioni e stati mentali a ciò che si comporta in modo apparentemente autonomo è antica, automatica e documentata. Si attiva con figure geometriche in movimento, e a maggior ragione con sistemi che usano il linguaggio.

Ne segue la riformulazione utile: non «la macchina decide?», ma «chi risponde di questa decisione, e chi la può contestare?». È una domanda a cui si può rispondere, e le sue conseguenze sono concrete.

Cosa se ne ricava

• Riconoscere l’attribuzione automatica di intenzioni: è un funzionamento nostro, non una proprietà del sistema.
• Attendersi il bias di automazione in sé stessi, in particolare sotto pressione di tempo, e prevedere verifiche indipendenti dove la decisione conta.
• Mantenere la competenza nelle funzioni delegate, perché serve esattamente quando il sistema sbaglia.
• Non usare la mediazione tecnica come attenuante: la responsabilità di una decisione resta di chi la adotta.
• E ricordare che la domanda utile non riguarda la coscienza delle macchine, ma la possibilità di contestare ciò che producono.

Domande frequenti

Cos’e l’agency in psicologia?

Il senso di essere autori delle proprie azioni, studiato come esperienza ricostruita dal confronto fra intenzione, previsione ed esito.

E un rilevatore affidabile di cio che abbiamo fatto?

No: puo essere indotto per azioni non compiute e mancare per azioni realmente compiute.

Cos’e il bias di automazione?

La tendenza ad accettare i suggerimenti di un sistema anche quando sono sbagliati, senza cercare informazioni che li contraddicano.

Le macchine decidono davvero?

Non e una domanda risolvibile con gli strumenti disponibili. Quella utile e chi risponde della decisione e chi puo contestarla.