Isaac, Elon e i Cybercab

Ha suscitato molto interesse questa notizia, che riguarda il futuro dell’automobile. Nella notte, durante un congresso a Genova, è comparso in video conferenza un nuovo modello che non ha bisogno di essere pilotato, progetto svelato a sorpresa da Elon Musk. Niente volante, niente pedali, nemmeno la presa di ricarica: il nuovo Cybercab, il taxi a guida autonoma di Tesla, non solo guida da solo ma in più si ricarica a induzione, come fosse un iPhone o un qualsiasi altro smartphone. Dovrebbe essere in produzione dal 2026 con un costo iniziale previsto intorno ai 30mila dollari. L’imprenditore sudafricano ha detto, tra l’altro: “L'autonomia vi restituisce il tempo. Non dovrete più guidare per spostarvi”. Ad ascoltarlo, fra il pubblico, c’era anche il presidente di Stellantis (ex- Fiat), John Elkann. In realtà il veicolo era stato annunciato anni fa, come parte della strategia per lanciare Tesla oltre la semplice produzione di auto per passeggeri. Ha le portiere che si aprono leggermente verso l’alto come fossero ali (a me hanno ricordato le auto dei vecchi film di sci-fi, come la serie televisiva UFO o la De Lorean di Ritorno al futuro) e dovrebbe far parte di una flotta di taxi di proprietà di Tesla, che i passeggeri potranno chiamare semplicemente tramite una app. Nelle intenzioni, i Cybercab (cab è il gergo americano per indicare i taxi) potranno successivamente essere acquistati da privati, che potranno fare lavorare la loro macchina mentre non la usano, con un meccanismo di   noleggio tipo UBER. Ha ricordato Musk: «Molti si lamentano dei prezzi alti, tra rate, assicurazione, parcheggio, manutenzione. Ma quante ore usate la macchina in una settimana? In media 10 ore, su un totale di 168. Il resto del tempo le auto non fanno nulla. Quelle autonome, invece, possono essere utilizzate 5-10 volte in più. La stessa auto assume un valore 5-10 volte superiore … L'autonomia vi restituisce il tempo. Non dovrete più guidare per spostarvi. La vostra macchina diventerà un comodo salottino, in cui potrete dormire, lavorare, bere.»

Secondo l’imprenditore un’auto a guida completamente autonoma sarebbe anche dieci volte più sicura di quelle normali: «Non si stanca, non guarda il cellulare, è stata allenata con i dati di più di un milione di macchine ed è preparata per situazioni che non vi sognate nemmeno.» Tutto meraviglioso, allora? Siamo di fronte a un esempio di ciò che Leopardi chiamava “le magnifiche sorti, e progressive”? Può essere vero, ma solo in parte: se a noi europei i taxi che guidano da soli sembrano futuribili, negli Stati Uniti servizi del genere, aperti al pubblico, sono realtà da tempo. Però non sono state esenti da problemi e incidenti anche gravi, tanto che alcuni stati americani hanno chiesto l’interruzione del servizio. Compagnie come Cruise e Waymo (che fa parte di Google) sono attive in questo campo da anni, non solo in California ma anche in altre località, come in Arizona. Per Tesla, il Cybercab costituisce una vera scommessa per il futuro, poiché sfida Cruise e Waymo sul loro terreno. 

Come se non bastasse, nel 2024 il premio Nobel per la fisica è stato attribuito a due scienziati che sono stati i precursori nello sviluppo della intelligenza artificiale. La notizia è arrivata solo poche ore prima dell’annuncio di Musk, moltiplicandone l’effetto. Il premio è andato a John Hopfield e Geoffrey Hinton: per avere gettato le basi teoriche che hanno aperto la strada alla realizzazione delle reti neurali (Hopfield) e per averle trasformate in uno strumento utilizzabile in pratica e scalabile ad applicazioni tecnologiche (Hinton). Essendo le scoperte che hanno reso possibile il machine learning sono ciò che ha portato all’attuale sviluppo delle IA.

Ovviamente è stato richiesto un commento a me, da parte di quelli che mi conoscono e sanno della mia lunga frequentazione con la fantascienza, il futuribile e la divulgazione scientifica. In effetti, ciò che ha stupito la maggior parte del grande pubblico, è invece storia vecchia per chi frequenta certe cose. La fantascienza ne discute in modo approfondito da oltre mezzo secolo, anche se è non molto ascoltata al di fuori della cerchia degli appassionati. Ne propongo qui qualche esempio, come stimolo alla lettura e all’approfondimento e offro alla fine una breve bibliografia.

Cominciamo da Uccello da Guardia (Watch Bird, 1953) di Robert Sheckley. Il racconto è famosissimo: ne esiste anche una versione in telefilm, prodotto da Spielberg per la serie Twilight Zone. Il testo affronta riflessioni analoghe a quelle portate avanti da Isaac Asimov con i suoi racconti e i suoi romanzi sui robot ma, a differenza di Asimov (che trova sempre o quasi sempre una soluzione ottimistica basata sulle sue Tre Leggi della Robotica [1]), la risposta di Sheckley è pessimistica. Insinua il dubbio che creare macchine intelligenti, in grado di imparare dalla propria esperienza (è questa l’essenza delle IA), comporti il rischio che queste possono danneggiare gli uomini. Sheckley immagina che siano creati degli automi volanti chiamati Uccelli da Guardia, completamente autonomi e programmati per prevenire i crimini. L’idea è stata poi ulteriormente sviluppata da Paul Verhoeven nel film di culto Robocop (1987). La capacità di apprendimento degli uccelli meccanici dovrebbe servire a riconoscere sempre meglio gli intenti omicidi, in modo da prevenirli. Sono in pratica dei droni, ideati con più di mezzo secolo di anticipo. A volte penso che, se Sheckley avesse brevettato l’idea, sarebbe diventato ricco come Musk. E non è tutto: anticipando il web, Sheckley immagina che gli Uccelli da Guardia siano collegati tra di loro, in questo modo ciò che uno apprende lo trasmette agli altri. All’inizio tutto sembra funzionare bene e i crimini diminuisco drasticamente; purtroppo, come i robot di Asimov s’interrogano su cosa sia un uomo, cosa sia il bene e se il bene di una comunità debba prevalere sul bene di un individuo, così gli Uccelli da Guardia di Sheckley elaborano una loro idea di morte e una loro idea di cosa sia la vita da preservare. Progressivamente arrivano così a considerare l’interruzione di qualsiasi attività (sia la vita di un essere vivente, sia il moto di una macchina) come un omicidio e a cercare di impedirlo. Non solo impediscono che un criminale uccida la sua vittima, ma fanno anche sì che siano impedite le condanne a morte, che sia impedito a un chirurgo di operare, a un macellaio di uccidere gli animali, a una persona di schiacciare una mosca, a qualsiasi animale di uccidere la propria preda, a un uomo di spegnere un’automobile o una radio. Il mondo va incontro alla paralisi. E non possono essere più fermati, questi uccelli meccanici, perché disintegrano chiunque tenti di farlo. Così viene costruito un nuovo automa, chiamato “falco”, che è stato programmato per uccidere gli uccelli da guardia. Ma la situazione non può che peggiorare. E infatti: “In alto, un falco stava piombando su un uccello da guardia. La macchina corazzata, costruita per uccidere, aveva imparato molte cose in pochi giorni. La sua sola azione era uccidere. Per il momento era spinta contro un certo tipo di organismo vivente, un organismo di metallo come lei. Ma il falco aveva appena scoperto che c'erano anche altre specie di organismi viventi… Che dovevano essere assassinati” [RS]. È un incubo kafkiano, ma anche l’applicazione del vecchio detto latino: “quis custodiet ipsos custodes?”. Già. Chi farà la guardia ai guardiani?

Ora spingiamoci ad esaminare in modo più specifico il futuro dell’automobile. Uno degli autori che più vi ha riflettuto è stato Philip Kindred Dick. In molte sue storie, l’autore parla di un misterioso “Effetto Rushmore”, mediante il quale oggetti di uso comune come automobili, elettrodomestici, televisori, abiti e così via riescono a interagire con il loro proprietario e a parlare direttamente con lui. Immaginatevi una domotica avanzata, con una voce tipo quella di “Alexa” (l’assistente vocale, dotato d’intelligenza artificiale, di proprietà di Amazon) ma molto più sofisticata e anche più invasiva e pervasiva. Anche qui, se Dick avesse registrato dei brevetti, non avrebbe avuto i problemi finanziari che lo hanno assillato per tutta la vita. Secondo lui Rushmore “è un concetto, non una singola tecnologia che potete acquistare in negozio” [PKD]. In Foster, Sei Morto (Foster, you are dead, 1955), uno dei primi coloriti esempi dell’effetto Rushmore è descritto così: “Diede una manata sul tavolo, e quello fece un salto, mettendosi poi freneticamente a radunare i piatti vuoti come un animale spaventato. Quindi schizzò via dalla stanza e sparì in cucina” [PKD]. L’effetto straniante degli oggetti che acquistano vita propria aveva già trovato rappresentazione al di fuori della fantascienza: per esempio nei film di Buster Keaton e Charlie Chaplin, dove oggetti comuni si rivoltano proprio contro l’uomo che li ha costruiti. Ma in Dick la rivolta non è più muta: gli oggetti parlano, ma non dialogano, se non per riconfermare la propria convinzione irremovibile. “Con un balzo si alzò, aprì il comodino e tolse le istruzioni. Sì! Era obbligato a sognare ogni volta che adoperava il letto… a meno che… certo, a meno che non avesse azionato la leva del sesso. Lo farò, decise. Gli dirò che sto conoscendo una femmina in senso biblico. Tornò a stendersi e attivò il circuito di sonno. – Il tuo peso è di sessantatré chilogrammi e quattrocentoventi grammi, – disse il letto. – E su di me è appoggiato esattamente questo peso. Per cui non sei impegnato nella copulazione. – Il meccanismo disinserì il circuito di sonno, contemporaneamente, il letto iniziò a riscaldarsi; sotto il corpo di Joe gli avvolgimenti divennero decisamente caldi. Non poteva stare a discutere con un letto arrabbiato.” [PKD]. Questo è tra i più famosi ed esilaranti effetti Rushmore, nella casa del povero Joe Chip in Ubik (1966). Nel romanzo non si comporta così solo il letto, ma anche il frigorifero, la porta, il distributore di giornali, la teiera, il dispositivo salvavita dell’armadietto dei medicinali e soprattutto i taxi automatici. A questo proposito, sono per me memorabili i dialoghi quasi filosofici tra il taxi robotico e il protagonista di Illusione di potere (Now wait for last year, 1966) “«Perché la vita è una realtà che deve essere accettata così com'è. Se lei abbandonasse sua moglie, sarebbe come se dicesse: Io non posso sopportare questo tipo di realtà. Devo avere delle condizioni speciali, più favorevoli.» «Credo di essere d'accordo — mormorò Eric dopo un po'. — Penso che rimarrò con lei». «Dio la benedica, signore – esclamò il taxi. – Vedo che lei è un brav'uomo». «Grazie» — replicò Eric. Il taxi cominciò a scendere verso il palazzo della TF&D” [PKD].

Questa idea dell’effetto Rushmore e dei cybercab è una delle poche che non sia stata del tutto stravolta nelle varie versioni cinematografiche che sono state tratte dall’opera di Dick. Il poliziotto Tom Cruise può saltare da un’auto all’altra nel caotico traffico della megalopoli, grazie al fatto che tutte le auto sono a guida automatica: è una delle scene culminanti di Minority Report (2002), del “solito” Spielberg, tratta dall’omonimo racconto di Dick del 1957. Arnold Schwarzenegger ha invece uno strampalato dialogo con il suo taxi in Total Recall (1990) di Verhoeven: questa volta l’effetto Rushmore ha l’aspetto di un pupazzo sorridente, che sembra quello di un ventriloquo, messo al posto di guida.

Ma, come al solito, è stato Asimov colui che più di tutti ha saputo anticipare e approfondire il tema. Accusato spesso di eccessivo ottimismo (i fan americani lo chiamavano “the good doctor” perché raramente usava personaggi malvagi nelle sue trame) in realtà Asimov, essendo uno scienziato, era pienamente consapevole dei rischi di una eccessiva automazione senza controllo: preferiva però proporre soluzioni anziché lanciare ammonimenti fini a se stessi. Lo si capisce bene in Sally: è un racconto fantascientifico pubblicato per la prima volta nel maggio/giugno del 1953. L’autore immagina un futuro dove le autovetture sarebbero per legge soltanto quelle che contengono un cervello positronico. Di conseguenza, gli incidenti stradali sono diventati oramai un terribile ricordo del passato. Queste automobili non sono dei robot nel senso stretto del termine, in quanto non hanno un aspetto umanoide e non dialogano verbalmente, ma possiedono comunque una loro intelligenza e comunicano col guidatore grazie al movimento delle loro portiere o al suono dei loro clacson. Si comportano insomma come animali domestici, tramite una comunicazione non – verbale. Il protagonista è Jake, ex-autista di un miliardario americano ormai morto, che segue e accudisce diverse auto d’epoca, ritirate in un deposito come cavalli da corsa messi a riposo: notoriamente, Asimov non resisteva mai all’idea di fare un po’ di umorismo, anche in una storia altamente drammatica come questa. A ognuna delle macchine è stato dato un nome, e quella preferita di Jake si chiama Sally, una decappottabile del ‘45 (cioè: del 2045). Ci viene descritta come una decappottabile, il che significa che dovrebbe essere una Corvette, l'unica vettura sportiva decappottabile costruita negli Stati Uniti, nell’epoca in cui è stata scritta la storia. Le berline, invece, sono chiamate Giuseppe e Stefano, provengono da Torino e qualcuno ha suggerito che potrebbero essere delle FIAT o delle Lancia (la previsione più errata di Asimov: nel 2045, di questo passo, FIAT non esisterà più, probabilmente). Un giorno però arriva Raymond Gellhorn, un uomo d’affari senza scrupoli il quale, dopo aver chiesto inutilmente a Jake di guadagnare qualche soldo vendendogli le automobili d'annata, cerca di rubare alcune delle vetture per riciclarne i cervelli positronici (cioè il pezzo di maggior valore in un’auto, per quell'epoca). Notate bene: oggi gli hard disk dei computer vengono davvero riciclati come sistemi di guida e navigatori satellitari per le vetture odierne. Mentre Gellhorn costringe Jake a rimuovere i cervelli dalle macchine sotto la minaccia di una pistola ad aghi, le auto comprendono il pericolo imminente a cui vanno incontro e reagiscono facendo scappare i tirapiedi che l'imprenditore aveva portato con sé. Così si scatena una furente lotta fra i due uomini, che finiscono sull'automatobus (il mezzo con cui si doveva portare via la preziosa merce). Gellhorn ha il sopravvento, ma il bus robotico assume il controllo di se stesso, essendo a sua volta dotato di un cervello positronico. Fatto scendere Jake, il mezzo di trasporto porta via con sé nell'oscurità Gellhorn, che verrà poi trovato morto, apparentemente a causa di un incidente stradale. Intanto Jake torna a casa a bordo di Sally. Dato che non era abituata a far salire qualcun altro dentro di sé da parecchi anni, Sally lo ospita per un vero e proprio atto d’amore verso di lui. A quel punto, però, Jake inizia a riflettere e si rende conto della pericolosità di queste autovetture. Nelle ultime righe, si chiede se mai un giorno questi cybercab si renderanno conto di essere superiori agli esseri umani.

Il racconto ha poi dato origine a un romanzo che sembra una sorta di “sequel”, scritto da George Henry Smith nel 1971: Il Ponte di Quattro Giorni (The four day week-end). Questa volta non ci sono dubbi: le automobili sono davvero i nostri occulti padroni. Sono loro a guidare noi, da un week-end all'altro, in una fatale, inarrestabile progressione di ingorghi colossali e incidenti di massa, puntando allo sterminio definitivo di noi umani. Secondo Fruttero e Lucentini, che commentavano il romanzo: “siamo imprudenti, incoscienti, infantilmente e morbosamente legati al nostro terribile giocattolo su quattro ruote. Che ne siamo, anziché i dominatori, gli schiavi” [F&L]. Il contesto è piuttosto intrigante e potrebbe essere stato fonte di ispirazione per numerose altre storie, dalle quali sono stati tratti film e serie tv. Infatti, sembra sufficiente riadattare l’ambientazione per venire catapultati in Christine o Buick 8 di Stephen King. Ma l’idea originale nel racconto di Asimov rimane quella più efficace e meglio scritta.

Siamo di fronte a un bivio: o progettisti e costruttori si decidono a mettere nei loro macchinari dotati di IA dei limiti, sul modello delle tre leggi della robotica, oppure continuano a progettare meccanismi mortali, come i droni per uso bellico e spionistico. Credo che qualche buona lettura di fantascienza possa aiutarci a decidere. Quanto a me, se in futuro arriveranno davvero i cybercab, li prenderò volentieri. Magari dopo aver fatto qualche scongiuro…

[1] So che per gli appassionati di SF è una ripetizione inutile, ma per i pochi che ancora non li conoscessero, questi sono i termini delle tre Leggi della Robotica come furono formulate da Asimov negli anni ’40:

1- Un robot non può recar danno ad un essere umano né permettere che a causa del proprio mancato intervento un essere umano riceva danno.

2- Un robot deve obbedire agli ordini impartiti dagli esseri umani, perché tali ordini non contravvengono alla Prima Legge.

3- Un robot deve proteggere la propria esistenza, purché questa autodifesa non contrasti con la Prima o la Seconda Legge.

Bibliografia suggerita:

Tutti i miei robot (The Complete Robot, 1982), di Isaac Asimov, I Massimi della Fantascienza [9] Arnoldo Mondadori Editore, Milano.

Il grande Dio Auto, Roberta Rambelli (a cura di), Collana: I Libri dell'Automobile – L'Editrice dell'Automobile, Roma – ottobre 1965 [Una serie di grandi racconti di fantascienza, imperniati sul tema dei motori e delle automobili: i racconti sono preceduti da una breve nota].

Gli anni della turbina, di John Jakes, (On Wheels, 1973), febbraio 1974, Delta Fantascienza Fantasia Eroica 10 Editrice Delta (Sugarco), Milano.

Questa la presentazione: “I membri di questi clan nomadi scendevano dai carrozzoni semoventi dove si svolgeva la vita della comunità, dove nascevano, studiavano, lavoravano, si sposavano, festeggiavano, morivano, solo per fare scorribande sulle loro vetture private, per compiere folli corse, gare insensate, in un’eterna sfida, obbedendo a una sola legge inviolabile: non fermarsi mai. Il loro unico sogno, desiderio o destino era una rombante macchina spinta alla massima velocità nella notte… ma chi li avrebbe attesi alla fine della strada?”

 

Ciclo “Autocrisi” di Pierfrancesco prosperi, Vol. 1: Autocrisi – 1971, in Galassia 150, Casa Editrice La Tribuna, Piacenza. Vol. 2: Autocrisi 2020. Le cronache europee in Narratori Europei di Science Fiction 11, Perseo Libri1997 [include il primo romanzo. Vol. 3: Autocrisi 3 – Collana Odissea Fantascienza n. 97, Delos Digital.

Questa la presentazione del terzo libro: “La guerra per il controllo del mercato dell’auto automatica è iniziata. Ma se le intelligenze artificiali guidano meglio degli esseri umani, perché limitarsi alle auto?”.