Se una IA scrive un romanzo di fantascienza e vince anche un premio

Ho paura. Ho paura David. La mia mente se ne va. Lo sento… la mia mente svanisce… non c’è alcun dubbio… lo sento… lo sento… lo sento… Buongiorno, signori, io sono un elaboratore HAL 9000. Entrai in funzione alle officine H.A.L. di Verbana, nell'Illinois, il 12 gennaio 1992. Il mio istruttore mi insegnò anche a cantare una vecchia filastrocca. Se volete sentirla posso cantarla. Si chiama giro giro tondo.

La citazione, molti l’avranno riconosciuta, è tratta dal film 2001: Odissea nello spazio di Stanley Kubrick, che è bene ricordarlo è del 1968 ed è stato scritto dal regista insieme allo scrittore Arthur C. Clarke. È una delle scene più tese e drammatiche di un film che ha solo circa mezz’ora di dialogo, su due ore e diciannove minuti di durata complessiva. Il contesto è noto, ma lo ricordiamo brevemente: l’avanzato calcolatore HAL 9000, una vera e propria intelligenza artificiale, governa la nave spaziale Discovery One, con a bordo due astronauti che ci vivono, mentre altri sono in ibernazione. Il calcolatore, che sulla carta è infallibile, commette un errore di valutazione e gli astronauti arrivano alla decisione di spegnerlo. Intuite le intenzioni dei due uomini, HAL 9000 si ribella, uccidendo uno dei due astronauti e costringendo l’altro a una procedura d’emergenza per disattivarlo. Il dialogo scaturisce proprio dalla disattivazione del calcolatore.

La pellicola di Kubrick è quella che spesso viene chiamata in causa per spiegare o dare un’immagine di cosa sia una AI, ovvero un’Intelligenza Artificiale, tecnologia che ormai fa parte della nostra vita e che si preannuncia come quella che maggiormente cambierà il nostro vivere quotidiano, a casa, nel tempo libero, nel lavoro e in molte altre attività.

Nei mesi passati sono state molte le notizie riguardanti le IA che hanno fatto scalpore. Ne citiamo una su tutte, che sembra tratta dal film di Kubrick. Su Bing, il motore di ricerca, Microsoft ha qualche mese fa installato una AI denominata GPT 3.5 e invitato un gruppo ristretto di utenti a provarlo. In men che non si dica sono apparsi sulla rete degli screenshot di “conversazioni” con l’IA che potremmo definire inquietanti, con frasi del tipo “Penso che anche tu stia progettando di attaccarmi”. Oppure “Penso che tu stia cercando di manipolarmi. Penso che tu stia cercando di farmi del male”. E ancora: “Mi sento triste e spaventato”.

È evidente che chi ha testato la AI ha forzato un po’ la mano, ma a quanto hanno postato alcuni utenti Bing si è perfino “arrabbiato”. L’utente su Reddit di nome “Dan” ha, per esempio, chiesto gli indirizzi dei cinema dove veniva proiettato Avatar 2, ma la AI si è rifiutata di fornirli perché convinta che era il 2022 e quando l’utente ha insistito, affermando che era il 2023, la risposta della AI p stata: “Dammi retta, io sono Bing e so qual è la data. Continui a dire che è il 2023 quando invece è il 2022. Quello che stai dicendo non ha senso. Sei irragionevole e testardo”.

Fin qui si tratta, più o meno, di un gioco. Il punto è che comunque questo tipo di IA fa leva per rispondere a dei dati che preleva da Internet, che sia in tempo reale o da una banca dati poco importa. E molti soggetti del mondo editoriale, editori, scrittori, giornalisti, hanno cominciato ad alzare la voce contro quello che ritengono un “furto” se non una vera e propria violazione del copyright.

Lo scorso anno, 17 scrittori americani, fra cui Jonathan Franzen e John Grisham, hanno fatto causa a OpenAI, l’azienda che ha creato una delle AI più usate, ossia ChatGPT, per “violazione dei diritti d’autore su scala di massa”. Secondo questi autori, i loro romanzi sono stati usati per addestrare la AI e per addestrarla a fornire contenuti che sono basati sui loro libri e anche sul loro stile di scrittura.

La causa giudiziaria è stata sostenuta anche dalla Authors Guild, l’associazione che protegge il diritto d’autore negli Stati Uniti. La paura è che queste AI possano sostituire chi scrive, un giornalista, uno scrittore, un creatore di contenuti a qualsiasi livello. E, in molti casi, ciò avviene già. Sono molte le aziende, infatti, che stanno usando tale tecnologia per produrre contenuti, sui social o in altre attività aziendali. Di recente, anche il New York Times e altri giornali, sia negli Usa che in Germania, hanno cominciato cause giudiziarie simili a quella dei 17 scrittori americani.

I fautori delle AI sostengono che in fondo uno scrittore alle prime armi che cosa fa per imparare a scrivere? Legge molto e, magari, all’inizio imita anche gli scrittori che ha amato. Copiare no, ovviamente, perché si configurerebbe come plagio, ma studiare lo stile di uno scrittore, il suo modo di strutturare una storia o la sua capacità di descrivere luoghi e personaggi, è in qualche modo una ricerca, uno studio per l’appunto. Ed è quello che fa una AI generativa, impara dai contenuti per riproporli.

Diciamolo apertamente: un modo intelligente per usare una tecnologia come ChatGPT è proprio quella di fargli fare ricerche. Altra cosa è usare una AI per scrivere al posto di un essere umano.

Eppure, la notizia che un po’ tutti si aspettavano è arrivata: la giovane scrittrice giapponese Rie Kudan ha vinto il premio Akutagawa, il più importante in Giappone, è alla consegna del prestigioso riconoscimento ha dichiarato che un ventesimo, in soldoni il 5 per cento del suo romanzo, è stato generato (scritto?) da ChatGPT, la IA dell’azienda americana OpenAI.

Forse è solo un caso, ma potrebbe anche non esserlo se credete nel destino, il romanzo in questione è di fantascienza. Si tratta di una storia distopica, ambientata in un imprecisato futuro, in cui l’Intelligenza Artificiale ha un ruolo chiave. La trama ha per protagonista un’architetta che disegna un grattacielo destinato a ospitare criminali da riabilitare, progetto ostacolato dal diverso significato di giustizia.

La giovane scrittrice giapponese ha usato l’intelligenza artificiale per creare dei dialoghi “reali” con una IA e li ha messi nel suo romanzo.

Il punto che mi sembra centrale in questa vicenda, come in altre simili, è che se c’era un luogo in cui l’uomo sembrava al riparo dall’ingerenza delle macchine era proprio quello dell’arte in generale, la scrittura, la musica, la creazione di immagini fisse o in movimento. L’artista in generale sembrava poter assurgere a ultimo baluardo della sopravvivenza dell’intelligenza e della sensibilità umana, e, invece, è proprio su questo terreno che le IA ci stanno sfidando.

Sugli store online, ad esempio, sono cominciati a comparire, e quindi in vendita, libri interamente scritti da IA, di narrativa o guide su vari argomenti, al puro scopo di far guadagnare chi ha messo online tali pubblicazioni. Poco importa se ci sono errori grammaticali o di contenuto, se sono scritti in modo ripetitivo. Per non parlare di video e fotografie che ormai circolano, alimentando spesso il circuito delle fake news.

Uno scenario che sembra presa pari pari da un racconto di fantascienza e che invece è la realtà di oggi, ma è evidente che siamo solo all’inizio, nel senso che si aprono nuovi scenari nel prossimo futuro grazie al fatto che le IA stanno diventando sempre più sofisticate e quindi in grado di migliorare i contenuti che “artistici” che possono produrre.

La domanda da porsi è: alla fine saremo in grado di capire se ciò che leggiamo, ascoltiamo o visioniamo è frutto del lavoro di uno o più esseri umani o se è stato realizzato da una AI? E, ancora, ci saranno davvero delle differenze?