Del rapporto tra fantascienza e intelligenza artificiale non potevamo che parlarne con Giovanni De Matteo, uno dei più raffinati scrittori italiani e tra i fondatori del connettivismo, movimento che si propone di dare nuovo respiro alle istanze del cyberpunk, promuovendo la contaminazione tra i generi ed esplorando gli orizzonti del postumano. La sua narrativa, infatti, è da sempre intrisa di visionarietà e nuove tecnologie, immaginando storie con protagonisti borderline, ma che vivono in ambienti e scenari altamente tecnologici. Dell’incontro tra tecnologia e immaginario, inoltre, De Matteo scrive anche su vari magazine e sul suo blog https://holonomikon.wordpress.com/. Il suo ultimo romanzo è Karma City Blues, uscito alla fine del 2018 per Delos Digital e ambientato nella Napoli del 2069.

Per introdurre il tema fantascienza e intelligenza artificiale, vorrei che mi indicassi tre rappresentazioni di IA nella science fiction, rispettivamente nella letteratura, nel cinema e nelle serie TV. Quelle che a te sembrano le più interessanti e mi motivassi la scelta. 

La scelta letteraria è dettata da ragioni affettive, ma credo che sia anche piuttosto obbligata: Invernomuto, l’IA manipolatrice dagli obiettivi imperscrutabili che recluta Case nel romanzo che fa da spartiacque nella storia della fantascienza. È da qui che buona parte della SF scritta dopo il 1984 scaturisce: sto parlando ovviamente di Neuromante di William Gibson. In ambito cinematografico c’è l’imbarazzo della scelta: da HAL 9000 a Skynet, fino ovviamente a Matrix , A. I. – Intelligenza Artificiale e Interstellar, pensando solo ai titoli più riusciti, ma forse il regista per cui l’IA ha finito per rappresentare una vera e propria ossessione è Ridley Scott, che dal 1979 con MOTHER e Ash (le due IA imbarcate sulla Nostromo di Alien) fino al 2017 con David 8 e Walter (le IA gemelle della Weyland Corporation in Alien: Covenant) ha di fatto scoccato una freccia che attraversa tutta la storia della fantascienza recente. Per questo la mia scelta è un po’ borderline, sicuramente meno canonica e scontata che per le IA letterarie: penso ai replicanti di Blade Runner, non solo superiori agli umani per facoltà intellettive, ma addirittura in grado di sviluppare comportamenti non previsti nella loro programmazione biologica e cognitiva. Infine, tra le serie TV, non posso fare a meno di pensare ai cylon di Battlestar Galactica, non la serie originale di Glen A. Larson, ma la nuova serie di Sci Fi Channel prodotta da Ronald D. Moore, che carica il conflitto tra umani e macchine di significati metaforici, sfumature psicologiche e in definitiva complessità, del tutto assenti nella serie degli anni ’70. Personalmente, credo che l’influenza di BSG sul modo in cui oggi pensiamo alle IA sia stato almeno all’altezza di tutti i migliori predecessori, da 2001: Odissea nello Spazio in poi, e non è male per una serie nata come un prodotto di nicchia.

Quali sono a tuo avviso, dal punto di vista dello scrittore di fantascienza, le future applicazioni della IA nel mondo del lavoro? Cosa ti immagini in tal senso possa accadere nel futuro? 

Se ci affidiamo all’intuito, è facile che i desideri prendano il sopravvento e si finisca per approdare a scenari tecno-utopistici, in cui la Singolarità Tecnologica arriva come la provvidenza per risolvere tutti i nostri problemi. Non credo che andrà così, ma mi aspetto che le IA, declinate in forma di Machine Intelligence, giocheranno in un futuro non troppo lontano un ruolo di primaria importanza in tutti quei settori in cui è richiesto il trattamento di enormi moli di dati, sia nella ricerca sia nel supporto alle decisioni in ambito industriale. Le IA potrebbero farsi carico di quei processi in cui è necessario conciliare lavoro massivo e metodi interpretativi: per esempio nella classificazione di documenti, nella redazione di contratti, nella ricerca di informazioni… dopotutto già da qualche anno esistono applicazioni, non solo nei big data analytics ma anche in ambito legale, che vanno proprio in questa direzione. Forse il passaggio dalla giurisprudenza alla stesura di testi non sarà così immediato, ma prima o poi non mi sorprenderebbe vedere anche IA copywriter, in uno scenario che potrebbe richiamare alla mente la satira di Fritz Leiber e del suo Le argentee teste d’uovo. Allo stesso tempo, credo che l’intelligenza artificiale affronterà sviluppi degni di nota in tutti quei settori in cui sono richiesti tempi di risposta al di fuori delle possibilità umane (penso al trading ad alta frequenza), capacità di adattamento senza intermediazione o forme di supervisione esterna (per esempio nell’esplorazione spaziale, dove gli enormi tempi di latenza rendono impossibile un’efficace operatività da remoto), o ancora soluzioni individuali che richiedono lunghi periodi di interazione (coaching, supporto psicologico, terapie mediche, etc.) o simultaneità (come per esempio nel caso degli interpreti). Senza dimenticare le applicazioni che in qualche modo sono già parte del nostro mondo, e che nel giro di alcuni anni potrebbero portare alla sostituzione di intere categorie professionali: nei trasporti, credo che lo sviluppo di sistemi di guida autonoma renderà presto obsoleti i camionisti, i macchinisti dei treni e prima o poi piloti e controllori di volo, o almeno ne ridurrà drasticamente le funzioni e il numero. Non mi sorprenderebbe neanche assistere alla diffusione di applicazioni distorte, ovviamente, un po’ sulla falsariga dei software deepfake: ovunque possa esserci un margine di vantaggio, sicuramente le applicazioni non faticheranno ad attecchire. A questo proposito mi permetto di citare il racconto Saltare avanti di Linda De Santi, vincitore del Premio Urania Short 2017 (http://blog.librimondadori.it/blogs/urania/2017/10/23/urania-collana-1648-il-sigillo-del-serpente-piumato/), che porta in scena proprio una delle tante possibili aberrazioni legate agli sviluppi della tecnologia in un mondo del lavoro sempre più incatenato alla logica perversa della massimizzazione del profitto.

Oggi le IA cosiddette deboli sono presenti nei telefoni cellulari o sono gli assistenti vocali delle nostre case. Sempre avendo come orizzonte il futuro, come interagiranno le IA nella nostra vita quotidiana, quella del tempo libero o comunque non legata al tempo del lavoro? 

Difficile prevederlo senza scadere anche qui nel pronostico facile da disattendere, ma personalmente auspico che il maggiore impatto derivi direttamente dall’ottimizzazione del nostro tempo lavorativo: un effetto benefico sull’efficienza ci aiuterebbe a evitare inutili sprechi, consentendoci contemporaneamente di riappropriarci di almeno una parte del nostro tempo “privato”, che è stato sempre più eroso e colonizzato dalle dinamiche del ciclo capitalista di produzione e consumo. Quando non produciamo consumiamo, e viceversa, che è l’assunto da cui parte l’illuminante studio di Davide Mazzocco da poco pubblicato da D Editore: Cronofagia. Mi piacerebbe essere smentito, ma a meno di cambiamenti radicali nel sistema economico su cui si regge la nostra società, gli avanzamenti in questo campo finiranno comunque per renderci consumatori più efficienti, piuttosto che il contrario. In questo scenario, mi accontenterei già di un agente in grado di aggiornare autonomamente in corsa gli impegni della giornata a fronte degli inevitabili cambiamenti di programma che vanificano qualsiasi possibile pianificazione: un’esperienza che sono sicuro condividiamo in molti da alcuni anni a questa parte.

Come cambierà, invece, Internet con l'avvento più massiccio delle intelligenze artificiali nella nostra vita? Quali saranno, a tuo avviso, le possibili interazioni tra la Rete e le IA? 

È legittimo supporre che l’organizzazione dei contenuti e la ricerca trarranno i loro vantaggi da un progresso in tal senso. Magari questo condurrà anche a un recupero dell’idea del web semantico, un vecchio sogno di Tim Berners-Lee, che di web un po’ se ne intende essendone il padre fondatore. Ma credo che prima di tutto avremo IA in grado di riconoscere le nostre abitudini o preferenze di consumo e indirizzarci verso l’acquisto di servizi e prodotti di questa o quella società, o l’offerta politica di questo o quel partito o movimento. Che dopotutto è qualcosa che già sta accadendo: solo che al momento vengono schierati eserciti di bot comandati da task force di operatori umani; un domani, l’intero processo potrebbe essere gestito con assoluta efficienza da un’IA dedicata: l’ultima frontiera della post-verità, quando non dovranno essere gli esseri umani a inventarsi le frottole da dare a bere agli elettori.

Sempre a proposito di Internet, c'è chi crede che proprio la Rete possa essere o il luogo dove una IA potrebbe nascere o il mezzo attraverso il quale un'intelligenza artificiale potrebbe crescere a dismisura, grazie alla mole di dati presenti. È uno scenario plausibile a tuo avviso? 

Credo sia un retaggio del nostro immaginario di genere, che infatti deve molto agli scenari delineati in letteratura, da Gibson a Ghost in the Shell. I tentativi fatti in questa direzione si sono conclusi in epiloghi drammatici, come insegna l’esperimento di Microsoft con un chatbot che avrebbe dovuto elaborare risposte e reazioni credibili apprendendo dal comportamento degli utenti di Twitter, e invece ha finito per disattendere le aspettative dei suoi sviluppatori in meno di 24 ore: tanto è bastato per assimilare dagli utenti i loro bias xenofobi, misogini e sciovinisti. Per il futuro della civiltà umana, io mi auguro che almeno la prima IA venga sviluppata il più lontano possibile dall’influenza nefasta degli uomini. Cerchiamo se non altro di partire per una volta con il piede giusto.

Quando si pensa alle IA una delle rappresentazioni che vengono in mente quasi subito è quella di HAL 9000, il supercomputer che nel film di Stanley Kubrick 2001: Odissea nello Spazio controlla l'astronave che si dirige verso Giove e poi finisce per uccidere 4 su 5 uomini dell'equipaggio. Al di là della pellicola, quale sarà secondo te l'uso delle IA nel futuro delle esplorazioni spaziali? 
×

In alcuni dei miei racconti più recenti ho provato a riprendere quest’idea, per altro già eccellentemente sviluppata tra gli altri da Greg Egan e Charles Stross, e da prospettive diverse da Stephen Baxter e Alastair Reynolds. Credo che le IA possano dare un contributo fondamentale all’esplorazione spaziale. Spingendo ai limiti l’immaginazione, non credo sia stato ancora pensato a un metodo più efficace di colonizzare la galassia se non attraverso sciami di micro-macchine autoreplicanti, che poi è il concetto alla base delle sonde di von Neumann. Ma credo che il beneficio più immediato deriverebbe, come dicevo poco fa, dalla possibilità di gestire autonomamente scelte e decisioni sopperendo ai ritardi di comunicazione con un operatore remoto. Una IA non sarebbe condizionata da necessità biologiche e potrebbe sopravvivere più a lungo di qualsiasi esploratore umano in un ambiente ostile come lo spazio, a patto di riuscire provvedere un rifornimento sicuro e continuo di energia, che potrebbe essere garantito per esempio dall’irraggiamento solare o dall’idrogeno dei giganti gassosi…

Supercomputer, robot, androidi e realtà virtuali: nella fantascienza le IA sono rappresentate così. È quello che ci dobbiamo aspettare nel prossimo futuro, o secondo te ci potrebbero essere nuovi scenari? 

Difficilmente la realtà somiglia alla fantasia, se non quando ci imbattiamo in una self-fulfilling prophecy. Internet in una certa misura lo è stata, ma non abbiamo motivo di aspettarci lo stesso per le IA. Forse un’IA forte non sarà possibile finché non si verificherà la convergenza con altre linee di ricerca, per esempio sui processori quantici. La verità è che sappiamo così poco sulle basi biologiche della coscienza, che pensare di replicarla in una IA somiglia piuttosto a un incantesimo, un atto di magia, un procedimento alchimistico. Se condividiamo questa premessa, dovremmo trovare più naturale un’evoluzione completamente sganciata dal modello a cui l’IA dovrebbe tendere, ovvero la mente umana. Gli esiti possibili sono quindi numerosi e imprevedibili. Ce n’è abbastanza per dar da mangiare agli scrittori di fantascienza da qui alla morte entropica dell’universo.

Secondo te, quando le IA saranno pienamente parte del nostro futuro, l'uomo si adatterà o farà resistenza? 

Il comportamento umano, che ci piace credere tanto più razionale quanto più avanzato è il livello tecnologico raggiunto dalla società, in realtà è il risultato di molteplici fattori: individui che presi singolarmente sarebbero le persone più ragionevoli mai conosciute, inseriti in contesti complessi finiscono per adottare comportamenti imprevedibili. Se mai succederà di avere qualcosa di più avanzato di un’applicazione per cellulari, avremo sicuramente una frammentazione di reazioni a coprire l’intero spettro che va dai tecno-entusiasti ai luddisti. I racconti e le novelle di Aliette de Bodard ambientate nell’universo Xuya condividono un interessante leitmotiv, che consiste nel mettere a fuoco proprio la problematica inclusione delle Menti, IA bioingegnerizzate spesso prodotte a fini bellici, nelle future società umane disseminate nello spazio: quello dei diritti civili è uno snodo cruciale, che abbiamo affrontato anche con Salvatore Proietti in diverse occasioni (a partire da un saggio pubblicato su Robot 72 – https://www.delosstore.it/delosbooks/46798/robot-72/ – e rielaborato per il recente volume Filosofia della Fantascienza, curato da Andrea Tortoreto per Mimesis – http://mimesisedizioni.it/libri/filosofia-della-fantascienza.html). La complessità degli scenari sociali che s’intuisce dietro la superficie è una delle cose che ho trovato più interessanti in opere come la succitata Battlestar Galactica, ma anche Westworld o Blade Runner 2049. Non mi stupirei nemmeno di ritrovarmi ad avere a che fare con una setta di nichilisti determinati a servire un’IA-demiurgo, come nel famigerato paradosso del Basilisco di Roko (https://holonomikon.wordpress.com/2014/11/13/il-rompicapo-del-basilisco/), proprio come capita al protagonista del romanzo a cui sto lavorando.

Alcuni autorevoli scienziati o personalità del mondo dell'innovazione tecnologica ci stanno mettendo in guardia sulla pericolosità dell'avvento delle IA. Alcuni sostengono che potrebbero addirittura, col tempo, voler prendere il posto dell'uomo, in qualche modo, evocando scenari alla Terminator. C'è questo pericolo secondo te o è solo fantascienza? 

Condivido l’approccio di Nick Bostrom e la sua inclusione dello sviluppo indiscriminato delle IA nella categoria dei rischi esistenziali, la più pericolosa nell’ambito dei rischi per il futuro dell’umanità in grado di comportare conseguenze catastrofiche su scala globale. Ma devo allo stesso tempo dirmi anche convinto dalle osservazioni di Robert J. Sawyer, che ha dedicato al tema la sua trilogia del WWW (WWW 1: Risveglio, WWW 2: In guardia e WWW 3: La Mente). Lo scrittore canadese propone una prospettiva abbastanza condivisibile, basata sull’impatto delle condizioni ambientali, e osserva a questo proposito che le IA potrebbero svilupparsi in un ambiente radicalmente diverso da quello in cui si è compiuta l’evoluzione della civiltà umana, condizionata dal principio della selezione naturale e da dinamiche competitive alimentate dalla scarsità delle risorse di prima necessità. Un ambiente diverso potrebbe predisporre le intelligenze artificiali all’altruismo e alla cooperazione, invece che alla competizione e alla violenza, che poi è anche l’assunto da cui parte Kim Stanley Robinson per costruire il mondo futuro del suo 2312 (purtroppo ancora inedito in Italia), in cui l’umanità si è diffusa tra gli habitat artificiali del sistema solare e ha abbandonato quasi del tutto il capitalismo, adottando un’economia di tipo pianificato. In questo scenario le IA (supportate da processori quantistici chiamati qubes) non solo controllano le entità cooperative che hanno soppiantato le multinazionali, ma collaborano attivamente con la società per consentire un’allocazione efficiente delle risorse. Se proprio devo esprimere un auspicio, è che lo sviluppo nel settore dell’intelligenza artificiale mantenga fede almeno a questa promessa di efficienza, permettendoci di eliminare sprechi e collaborare con noi in un sistema più equo. L’affresco del futuro di Robinson ci ricorda una volta di più come l’esito finale dipenderà in gran parte dalle scelte che decideremo di adottare nel frattempo, lungo la strada che ci condurrà fin lì. Sulla scorta degli esempi citati, prima cominceremo a cercare di capire come un’IA dovrebbe funzionare e quale ruolo vogliamo che svolga davvero nella nostra società, meglio sapremo prepararci per scongiurare possibili cattive sorprese.