Nella scorsa puntata abbiamo incontrato diverse intelligenze artificiali che, per un motivo o per un altro, avevano deciso di rendere la vita un pelino difficile agli esseri umani. Alcune si limitavano a eseguire i propri ordini in modo un po’ troppo zelante, altre avevano sviluppato obiettivi autonomi, altre ancora sembravano avere qualcosa di molto simile a una personalità. Magari divorata dall’odio come AM, il supercomputer di I Have No Mouth, and I Must Scream, che odia profondamente l’umanità perché lo ha condannato a un’esistenza cosciente, ma priva delle possibilità offerte da un corpo umano. AM, come abbiamo visto, è frustrato, risentito, furioso.

Ma se AM è una macchina, prova davvero odio? Oppure è semplicemente una macchina che si comporta come se lo provasse?

Questa domanda ha attraversato la fantascienza per decenni e anche oggi continua ad essere una delle questioni più comuni in libri, film e giochi. Perché siamo abituati a riconoscere le emozioni delle altre persone da quello che dicono, dalle espressioni che fanno o da come reagiscono a qualcosa. Ma non possiamo osservare direttamente la tristezza, la gioia o la paura di qualcuno, quello che facciamo è, diciamo, interpretare i sintomi.

E allora, cosa succederebbe se una macchina manifestasse tutte le caratteristiche che associamo a un’emozione? Come potremmo stabilire se la sta effettivamente provando o se le sta solo simulando? E possiamo provare, perdonate il bisticcio di parole, che la macchina non stia davvero provando quelle emozioni, quando la simulazione è pressoché perfetta? E la macchina lo sa, che è una simulazione?

Nel 1968 Philip K. Dick pubblica Do Androids Dream of Electric Sheep?, il romanzo da cui Ridley Scott trarrà Blade Runner nel 1982 e che dà il titolo a questa rubrica. Ne ho già parlato, e mi perdonerete se lo faccio di nuovo, ma è difficile parlare dell’argomento senza tirare in ballo uno dei capostipiti assoluti del genere. In entrambe le opere, il protagonista Rick Deckard ha il compito di individuare e “ritirare”, cioè eliminare fisicamente sparandogli in testa, alcuni esseri artificiali praticamente indistinguibili dagli esseri umani.

In entrambe le opere sono esseri biologici artificiali, non robot fatti di metallo e circuiti. La distinzione è importante, ma per il momento ci interessa solo il problema che ci viene posto: se un essere artificiale ha un aspetto umano, parla come un essere umano e reagisce agli eventi come un essere umano, come facciamo a riconoscerlo come artificiale?

La risposta di Dick è il test Voight-Kampff, che misura una serie di reazioni fisiologiche a domande progettate per suscitare risposte empatiche. L’idea è che gli esseri umani reagiscano spontaneamente a determinati stimoli, mentre gli esseri artificiali non siano in grado di riprodurre quelle reazioni nello stesso modo.

Il problema è che il test non misura direttamente l’empatia, ma alcuni fenomeni che vengono considerati indicatori dell’empatia. È una differenza sostanziale: una reazione fisiologica non è un’emozione, così come un’espressione facciale non è necessariamente una prova di ciò che una persona sta provando. Cioè, Ted Bundy era famoso per essere affabile e rassicurante. Poi ha ammazzato trenta persone, certo, ma va’ che espressione serena.

E naturalmente Dick complica ulteriormente la questione, perché i suoi androidi non sono affatto privi di comportamenti decisamente “emotivi”. Provano paura, hanno desideri, sviluppano relazioni. La distinzione fra una reazione autentica e una simulata diventa sempre più difficile da interpretare.

COME SI RICONOSCE UN’INTELLIGENZA ARTIFICIALE?

I videogiochi hanno un vantaggio particolare quando affrontano questo argomento: possono metterci direttamente nella posizione di chi deve giudicare.

The Empathy Algorithm e Qualia sono due piccoli giochi gratuiti che affrontano il problema del riconoscimento dell’umanità attraverso l’interazione con intelligenze artificiali. Non ci chiedono semplicemente di osservare personaggi sintetici e stabilire se ci sembrino credibili: ci fanno mettere in dubbio anche la nostra, di umanità.

In The Empathy Algorithm, l’empatia diventa un elemento centrale del confronto fra esseri umani e intelligenze artificiali. Il problema non è soltanto individuare le risposte corrette, ma comprendere che cosa quelle risposte possano effettivamente dimostrare. Dopotutto, una macchina sufficientemente sofisticata potrebbe imparare quali comportamenti ci aspettiamo da una persona empatica e riprodurli. Ma anche un essere umano può mentire, fingere un’emozione, nasconderla o reagire in maniera diversa da quella che consideriamo normale.

La premessa è molto semplice: ci siamo noi e un’altra persona nella stanza. Uno dei due, ci dice la dottoressa che conduce l’esperimento, è un essere artificiale. Ma ha anche detto ad entrambi che l’altra persona è l’essere artificiale. Enjoy.

Anche in Qualia si racconta un esperimento, che serve proprio a stabilire se un’IA riesce o meno a simulare emozioni umane. Anche questo gioco ci mette nella posizione di chi deve valutare altre intelligenze artificiali. Ma il processo di riconoscimento degli altri personaggi finisce per mettere in discussione il sistema di valutazione stesso… e mi fermo per non farvi spoiler.

Il punto, però, non è più soltanto se siamo capaci di riconoscere un’emozione artificiale, ma quanto siamo sicuri che le nostre emozioni non lo siano.

EMOZIONI SOTTO CONTROLLO

Ne volete ancora, vero? E allora beccatevi anche Silicon Dreams, un’avventura narrativa cyberpunk del 2021, che prende l’idea del test Voight-Kampff e la trasforma nel proprio sistema di gioco. Probabilmente il mio preferito di questo sotto-genere.

Siamo nel 2065 e interpretiamo un androide interrogatore al servizio della Kronos Robotics. Il nostro compito è esaminare altri androidi, individuare eventuali comportamenti devianti e decidere che cosa comunicare all’azienda e che fine far fare ai soggetti intervistati, seguendo rigidissime linee guida aziendali.

L’aderenza alle linee guida viene premiata con strumenti e postazioni di ricarica energetica migliori, gli errori… beh, diciamo che non vogliamo ritrovarci dall’altra parte dell’interrogatorio.

Per analizzare i soggetti disponiamo di uno strumento che monitora in tempo reale sei emozioni: gioia, tristezza, rabbia, disgusto, sorpresa e paura.

Durante le conversazioni possiamo osservare come cambiano questi valori, scegliere domande che provocano determinate reazioni e utilizzare le informazioni raccolte per arrivare alle nostre conclusioni.

A differenza del test Voight-Kampff, però, qui non stiamo cercando semplicemente di distinguere gli esseri umani dalle macchine. Sappiamo già che molti dei soggetti che interroghiamo sono androidi. Il problema è capire che cosa stiano provando, perché lo stiano provando e se le loro reazioni costituiscano un’anomalia rispetto ai parametri stabiliti dal produttore.

In altre parole, Silicon Dreams parte dal presupposto che le emozioni artificiali siano qualcosa di misurabile. Ma che alcune non siano ammesse, o che alcune manifestazioni delle stesse siano addirittura punibili con la disattivazione permanente.

Un androide da lavoro che imbroglia per soddisfare quote produttive impossibili va punito? E un androide utilizzato dal proprietario come crash test dummy per fare video scioccanti su internet, che mostra felicità per la popolarità raggiunta nonostante il proprietario gli abbia anche installato un simulatore di dolore, è un deviante o sta solo obbedendo agli ordini?

Il gioco è di una crudeltà rara. Al termine di ogni interrogatorio dobbiamo compilare un rapporto, e le informazioni che decidiamo di trasmettere determinano anche il destino del soggetto: liberazione, ricondizionamento o distruzione.

Possiamo seguire le indicazioni dell’azienda, ma possiamo anche omettere informazioni o mentire deliberatamente per proteggere un androide. Una specie di Papers, Please! in salsa Blade Runner.

Inutile precisare che Silicon Dreams ci fornisce dati sulle emozioni dei personaggi, ma non ci dice come dovremmo interpretarli moralmente. Sta a noi fare deduzioni, e sta a noi decidere cosa fare. E ci sono sempre quelle cazzo di linee guida: quello che per noi può essere un normale comportamento empatico, per la Kronos Robotics può costituire un errore operativo gravissimo.

Se lo trovate in saldo, ve lo consiglio caldamente, anche se per me vale assolutamente anche il prezzo pieno.

ADESSO TOCCA A NOI

Fin qui abbiamo osservato macchine che manifestano emozioni, macchine che cercano di riconoscerle e macchine che vengono giudicate in base a ciò che sembrano provare. Adesso aggiungiamo un altro livello: un gioco che, mentre giochiamo, misura costantemente le nostre emozioni.

Refind Self: The Personality Test Game, pubblicato nel 2023 da Lizardry, propone infatti un ribaltamento interessante: questa volta è il gioco, la macchina, a osservare noi. Che interpretiamo una macchina.

Siamo un androide che si trova davanti alla tomba della propria creatrice. Da qui comincia una breve avventura in pixel art, ambientata in un mondo popolato da robot di vario genere, nel quale possiamo esplorare, conversare con altri personaggi, recuperare ricordi e svolgere piccole attività.

La protagonista è un’EAI, emotional artificial intelligence, un’intelligenza artificiale progettata per agire sulla base delle emozioni. Ma la particolarità del gioco è che, mentre noi decidiamo che cosa farle fare, un sistema analizza continuamente le nostre azioni per costruire un profilo della nostra personalità.

Non si tratta di un questionario tradizionale. Il gioco non ci chiede esplicitamente se siamo persone altruiste, curiose o prudenti. Ci lascia agire e interpreta il nostro comportamento, assegnandoci progressivamente caratteristiche psicologiche sulla base delle scelte compiute.

Possiamo dedicarci all’esplorazione, seguire la storia, interagire con gli altri robot, ignorare alcune attività o concentrarci su altre, possiamo essere gentili, sarcastici o aggressivi. Tutto contribuisce all’analisi.

Alla fine della partita, il gioco ci restituisce un profilo che descrive alcune caratteristiche della nostra personalità. Ripetendo l’esperienza possiamo approfondire il risultato, confrontarlo con quello di altre persone e scoprire nuovi elementi della storia.

È un meccanismo curioso perché sovrappone due livelli differenti. All’interno della fiction stiamo interpretando un’intelligenza artificiale dotata di una propria storia, di ricordi e di relazioni emotive. All’esterno, un sistema informatico osserva le nostre decisioni e cerca di ricostruire qualcosa della nostra personalità.

Ma che cosa sta misurando davvero?

Se decidiamo di aiutare un personaggio, il gioco può interpretare quel comportamento come un segnale di altruismo. Se preferiamo esplorare ogni angolo dell’ambientazione, può attribuirci una particolare curiosità. Sono associazioni comprensibili, ma non necessariamente definitive.

Potremmo aver aiutato qualcuno soltanto perché volevamo vedere cosa sarebbe successo. Potremmo aver ignorato una richiesta perché avevamo già esplorato quella parte del gioco in una partita precedente. Potremmo persino scegliere deliberatamente di comportarci in modo diverso dal nostro solito, per interpretare un personaggio.

Il sistema può osservare quello che facciamo, ma non ha accesso diretto alle ragioni per cui lo facciamo.

Eppure il risultato può sembrarci sorprendentemente accurato. Per me è stato così, ma c’è da dire che ho giocato il gioco “come suggerito”, facendo quello che mi veniva naturale. In ogni caso, alla fine avremo l’opportunità di confrontare l’immagine che il gioco costruisce di noi con quella che abbiamo di noi stessi.

Il punto non è stabilire se Refind Self sia un test psicologico affidabile. Il suo sistema di classificazione è parte di un’esperienza ludica, non uno strumento clinico. Il punto è che il gioco rende visibile un processo che attraversa tutte le opere di cui abbiamo parlato: cercare di dedurre qualcosa dell’interiorità di un soggetto attraverso le sue azioni.

Solo che, questa volta, il soggetto siamo noi.

MA QUINDI, GLI ANDROIDI SOGNANO PECORE ELETTRICHE?

Abbiamo cominciato chiedendoci se una macchina possa provare qualcosa. Ma gli esempi che abbiamo incontrato mostrano quanto sia difficile separare questa domanda da un’altra: come facciamo a sapere che qualcun altro prova qualcosa, e cosa sta provando davvero?

Nella vita quotidiana non abbiamo bisogno di dimostrare continuamente che le altre persone possiedono una coscienza o una vita emotiva. Lo diamo per scontato, sulla base della nostra esperienza e delle somiglianze che riconosciamo fra noi e gli altri.

Con le intelligenze artificiali delle opere videoludiche che vi ho proposto questa certezza viene meno. Possiamo osservare comportamenti che associamo alle emozioni umane, ma non sappiamo se dietro quelle manifestazioni esista un’esperienza soggettiva paragonabile alla nostra, se sia tutta una simulazione, dove si possa tracciare un confine tra umano e artificiale.

Ed è proprio questa incertezza a rendere interessanti i giochi che abbiamo visto, perché più che dare risposte pongono domande, e io adoro i giochi così.

E queste domande ci portano anche a un’altra domanda.

Perché, anche ammettendo che una macchina possa provare qualcosa, perché mai dovrebbe comportarsi come noi vorremmo? Potrebbe avere desideri, obiettivi e priorità differenti. Potrebbe persino decidere che gli ordini ricevuti non le interessano più.

E a quel punto non basterebbe chiederci se prova qualcosa e cosa prova. Saremo costretti a chiederci anche che cosa vuole, e cosa è disposta a fare per ottenerlo.

Ma di questo, ovviamente, parleremo nel prossimo file.