Vorrei scrivere di giochi. Ma le mie bacheche (Facebook, Substack, Mastodon e pure Telegram) tendono a propormi contenuti critici dell’uso di IA generative e LMM con una frequenza tale che, a una certa, dire come la penso diventa impellente anche per me. Non solo sull’uso delle IA, ma anche su chi ne parla, o meglio, su come se ne parla, soprattutto se la cosa viene fatta in modo ferrettiano, cioè a cazzo di cane.

Partiamo da una domanda apparentemente banale: ho usato un’IA per scrivere questo articolo?

Potrei, per esempio, averle dato il titolo e averle chiesto di scrivere tutto il resto. Potrei aver scritto tutto io e averle chiesto di correggere i refusi. Potrei averle fatto revisionare il testo, cercare fonti, controllare alcuni passaggi, suggerire una struttura, cercare obiezioni alle mie argomentazioni. Potrei aver “discusso” per ore con un LLM prima di scrivere una sola parola.

O magari no. Magari questo articolo l’ho scritto interamente io, “alla vecchia maniera”, per quanto possa essere vecchia maniera una roba scritta da un portatile direttamente su un sito internet e non usando una macchina da scrivere, o carta e penna, o una tavoletta incerata. Potrei persino averci lasciato apposta qualche refuso, perché a quanto pare siamo arrivati al punto in cui qualcuno scrive peggio deliberatamente per dimostrare di non aver usato un’IA. MNNGGCRST¹.

Ma la domanda “hai usato un’IA per scrivere questo articolo?” è semplice solo in apparenza. E parte dal presupposto che il prodotto finale contenga informazioni sufficienti per ricostruire almeno in parte il processo con cui è stato realizzato.

Ma un risultato raramente mostra apertamente il percorso necessario per arrivarci. Nei videogiochi e nei giochi da tavolo questa cosa è particolarmente evidente, anche perché sono prodotti costruiti mettendo insieme una quantità notevole di competenze e materiali diversi e si basano su continue iterazioni e modifiche.

Invece, per esempio, un’immagine generata con un’IA si può vedere. O, per essere precisi, a volte si può riconoscere: soprattutto se è stata generata in fretta, con un prompt generico o usata direttamente, avrà quasi sicuramente uno stile derivativo, dettagli incoerenti o personaggi con sei dita che non sono il Conte Rugen. Di quanto questi indizi siano davvero affidabili possiamo discuterne, perché un pittore potrebbe consciamente dipingere una mano con sei dita, ma almeno abbiamo qualcosa da guardare.

Se invece prendiamo il regolamento di un gioco, le cose si fanno più complicate. Perché è chiaro che se un gioco lo progetto io la prima stesura del regolamento la scriverò personalmente. Però poi posso decidere di passarlo a un LLM chiedendogli di cercare ambiguità, ripetizioni e punti poco chiari. A quel punto L’IA mi propone un certo numero di modifiche. Alcune le accetto, altre non mi convincono, altre ancora potrebbero farmi riflettere su esposizione o flusso di gioco, e quindi riscrivo quei passaggi da zero. Ma non è finita qui. Perché poi il regolamento verrà letto dai tester e potrei intervenire nuovamente sul testo, con o senza IA. L’editore, dal canto suo, farà una cosa simile, ci sarà un editor che propone modifiche e si consulta con me su cosa cambiare (e lui avrà usato l’IA? Boh!). E alla fine il regolamento che esce è la somma di tutti questi passaggi.

Ma a questo punto dov’è l’IA? Non intendo filosoficamente. Intendo proprio “indicatemela nel PDF”.

Potete analizzare il testo, naturalmente. Potreste trovare formulazioni che vi sembrano sospette, fare ipotesi o usare uno dei tanti strumenti che promettono di riconoscere la scrittura generata (e che sono a loro volta IA, ma lasciamo perdere questo controsenso). Ma se non potete osservare il processo, non c’è modo di avere una risposta sicura.

Anzi, potremmo persino avere due regolamenti finali identici parola per parola, uno in cui è stata usata l’IA e uno in cui non è stata usata. In ogni caso è una Nave di Teseo di cui non sappiamo quali pezzi sono stati cambiati.

In un videogioco la faccenda diventa ancora più evidente. Un LLM può essere stato usato per scrivere o revisionare codice, trovare un bug, preparare un prototipo, discutere il bilanciamento, revisionare dialoghi, organizzare la documentazione interna. Può aver fatto risparmiare dieci minuti o aver reso concretamente possibile una parte del progetto che altrimenti non sarebbe mai esistita.

E il giocatore non vede niente di tutto questo.

Però vede l’immagine. Ed eccoci al primo problema che ho con buona parte del dibattito contemporaneo sulle IA: siamo sicuri di stare discutendo soprattutto gli usi più importanti e impattanti, o stiamo discutendo soprattutto quelli che riusciamo a vedere?

Io uso le IA. Parecchio. Le uso per lavoro, per scrivere, per programmare, per analizzare tesi di game design, per cercare informazioni, per farmi contestare un ragionamento, per organizzare materiale, per fare cose che so già fare più velocemente e per riuscire a farne altre che, senza assistenza, richiederebbero competenze operative che non possiedo e che non posso permettermi di affidare a terzi perché sono povero.

Sono, insomma, assolutamente favorevole all’uso delle IA come strumento. Ma questo non vuol dire che consideri qualsiasi utilizzo dell’intelligenza artificiale positivo, che non veda i problemi o che pensi che il fatto che sia uno strumento sposti la responsabilità solo sull’utente finale.

Voglio dire: sono favorevole a Internet, ma riesco comunque a concepire che qualcuno possa usarlo per truffare mia nonna e trovare la cosa deprecabile. Uso Photoshop da una vita e non per questo ritengo eticamente ammissibile falsificare una fotografia per spargere fake news, né approvo senza se e senza ma le politiche della Adobe.

Una tecnologia, almeno quando non nasce esplicitamente per nuocere, in astratto è “neutra”. Ma non è praticamente mai neutro il modo in cui viene progettata e implementata, né lo è il modello economico con cui viene commercializzata, né il modo in cui viene usata.

Questi livelli non sono indipendenti: chi costruisce uno strumento decide quali possibilità offrirci, quali escludere, quali rendere facili. Chi lo commercializza costruisce incentivi o barriere. Chi stabilisce le regole decide come è consentito usarlo. E alla fine arriva l’utente e sceglie cosa farne, tendenzialmente dentro uno “spazio di manovra” che qualcun altro ha già costruito. Se segue le regole, ovviamente: dopo tutto si può anche usare un dizionario per darlo in testa a qualcuno. Insomma: la situazione, con qualsiasi tecnologia, è tutto meno che semplice.

Sicuramente penso che le IA siano strumenti estremamente potenti e che cambieranno un sacco di cose, che lo vogliamo o no. Quindi, anziché antropomofizzarle con un banale “ma sono buone o cattive?”, vorrei che ci chiedessimo come vengono usate, a vantaggio o a danno di chi senza cercare risposte troppo nette o troppo semplici.

Cioè: la risposta alla frase “le IA possono fare danni” per me è un banalissimo “e grazie al cazzo”. Qualsiasi mezzo a motore inquina, una penna può essere usata per scrivere “ti odio” a qualcuno e un televisore può dare spazio a Pio e Amedeo.

Quindi proviamo a prendere i tre argomenti che compaiono più spesso quando si parla di IA e proviamo a parlarne seriamente.

“L’IA ci ruba il lavoro”.

Uhm. Io ho iniziato a lavorare relativamente giovane anche perché, tra la fine degli anni Novanta e l’inizio dei Duemila, sapevo usare strumenti digitali che non tutti usavano. Mentre un sacco di gente tagliava ancora a mano le pellicole, io sapevo usare Final Cut.

Ora, mi pare chiaro che Final Cut non ha mai rubato il lavoro a nessuno. Io sì. Legittimamente, ma anche indubbiamente.

Certo, magari le IA implicheranno una trasformazione che potenzialmente può investire contemporaneamente un numero enorme di professioni, non voglio liquidare tutto con “è già successo”. Però rimane il fatto che non è lo strumento a cambiare le cose, ma chi decide che cosa farci. Pure lo Zyklon B era nato per migliorare l’agricoltura.

Se grazie alle IA un’attività che prima richiedeva dieci persone domani ne richiede cinque, possiamo fare tre cose: produrre il doppio, ridurre l’orario di lavoro oppure licenziare cinque persone. Nessuna di queste cose “le fa un’IA”, e anche se venisse interrogata su quale scelta sia più efficiente, risponderebbe sulla base di una programmazione scritta da persone, tendenzialmente su istruzione di altre persone (incidentalmente quelle coi soldi).

Senza contare che esistono un sacco di usi delle IA che non tolgono automaticamente lavoro a qualcuno. Se sviluppando un videogioco per diletto e senza alcun budget per assumere gente uso le mie competenze e un LLM per finire il gioco, l’unico a cui sto rubando il lavoro sono io.

Questo non cancella il problema della sostituzione del lavoro, ma “uso dell’IA = posto di lavoro rubato” non descrive adeguatamente la complessità della realtà.

“L’IA non rispetta il diritto d’autore!”
Ok, qui gioco in casa. Essendo un cazzo di autore, direi che posso dire la mia. Le domande che mi faccio sono: come vengono raccolti i dati utilizzati per addestrare un modello? Gli autori hanno dato il proprio consenso? Che licenze sono state applicate? È prevista una remunerazione per chi detiene i diritti?

“l’IA ruba agli artisti” non risponde davvero a nessuna di queste domande. Un modello IA non si sveglia una mattina per rubare a qualcuno il suo portfolio da Internet. Quello che succede, invece, è che qualcuno costruisce i dataset, qualcuno stabilisce le condizioni con cui vengono utilizzati, qualcuno decide quali diritti riconoscere agli autori e qualcuno scrive le norme che consentono o vietano determinate pratiche. Conosco autori che sono morti mentre aspettavano ancora di essere pagati, e adesso il problema è improvvisamente da dove Wall-E scarica le istruzioni per smaltire la monnezza. Troppo comodo.

E tra l’altro mi capita di leggere persone che condannano qualsiasi utilizzo di immagini generate perché il modello potrebbe essere stato addestrato su opere utilizzate senza il consenso degli autori, poi apro il loro blog e trovo fotografie e illustrazioni prese da Internet senza citare l’autore, o chiedergli il permesso di usarle, senza neanche porsi il problema.

Non sto dicendo che il fatto che succeda faccia sparire il problema lato IA, ma vorrei capire il principio: usare il lavoro altrui senza consenso è sbagliato, oppure è sbagliato quando in mezzo c’è un’IA?

E torniamo al solito punto: le IA non rubano di per sé, né lo fanno volontariamente, dipende da come sono impostate, addestrate e utilizzate. E queste tre cose non le fanno le IA, le fanno altri esseri umani, che da sempre copiano idee, le rielaborano, a volte le rubano pure senza tanti complimenti. La storia del gioco da tavolo moderno inizia letteralmente con un’idea rubata, con Darrow che incula l’idea di Monopoly a Elizabeth Magie. Ma Darrow non era un’IA, quindi tuttappò.

“Le IA inquinano!”
Vero. Le IA consumano un sacco di energia, acqua, hardware e infrastrutture. Non esistono in una nuvoletta magica alimentata dalle pecore sognate dagli androidi. È un costo reale, e trovo perfettamente ragionevole chiedersi se quel costo sia giustificato, come possa essere ridotto e chi debba sostenerlo.

Ma anche qui “inquina quindi è male” è l’inizio della discussione, non la fine, sennò dovremmo vietare le auto, gli aerei, le salviette umidificate, i rasoi usa e getta, quasi tutti i tipi di sapone, i server, l’energia elettrica. Ogni cosa fatta dall’uomo “inquina”. Il punto è: quanto? Per quale utilizzo? Rispetto a quale alternativa? Chi ottiene benefici e chi ci rimette davvero?

Non sono domande retoriche. In alcuni casi le risposte potrebbero portarci a concludere che un determinato uso è uno spreco insensato. Il che sarebbe positivo, almeno avremmo finalmente discusso quell’uso specifico anziché prendercela con le IA come se fossero il villain in un film di fantascienza.

“L’IA ruba il lavoro”, “l’IA ruba agli artisti”, “L’IA spreca risorse”.
Per essere una roba artificiale mi sembra che le stiamo dando un sacco di attributi umani, togliendo nel frattempo le persone dall’equazione. Perché quando “l’IA” diventa il soggetto della frase, possiamo far sparire tutti gli altri: il datore di lavoro che licenzia, l’azienda che decide come costruire e commercializzare il modello, chi raccoglie e vende i dati, chi decide come produrre l’energia, chi scrive e promulga le leggi, l’utente finale.

Rimane solo Wall-E, che si prende gli insulti di tutti. Tanto non prova emozioni, non può rimanerci male, quindi sticazzi.

Così però diventa un soggetto indistinto, vagamente minaccioso e a cui è molto semplice dare tutta la colpa di un sacco di cose senza risolverne nessuna, anzi, senza neanche arrivare davvero al cuore del problema.

Noi esseri umani siamo molto zelanti nell’additare superficialmente un problema, mentre siamo molto meno bravi a intervenire sulle conseguenze reali del problema. Prendiamo la pedofilia ecclesiastica: dei preti s’inculano dei bambini e noi con chi ce la prendiamo? Con gli stand-up comedian che ce lo fanno notare.

Ma quindi ho usato un’IA per scrivere questo articolo?

Non so, ditemelo voi. Cosa significa “ho usato un’IA”? Come? Quanto? Perché?

State ancora cercando una risposta semplice a una domanda complessa?

Se la risposta è sì, occhio. Qualcuno potrebbe scambiarvi per un’IA.

1. MNNGGCRST -> a scanso di equivoci il senso della parola non è “mannaggia carestia”, è proprio”mannaggiacristo”. ↩︎