Cillian Murphy in 'Oppenheimer'
Roma, 18 luglio 2023 – Dice Christopher Nolan che la scienza e la tecnologia stanno vivendo un “momento Oppenheimer”, simile cioè alle sfide e ai dilemmi affrontati a suo tempo, nel pieno della seconda guerra mondiale, dal fisico statunitense messo a capo del Progetto Manhattan e oggetto del suo nuovissimo film – Oppenheimer, appunto – in uscita negli Usa venerdì.
È il momento in cui gli scienziati sono alle prese con dilemmi etici estremi, quasi sovrumani: Oppenheimer negli anni ‘40 sapeva di offrire, con la bomba atomica, uno strumento di distruzione mai visto prima, potenzialmente fatale per la stessa specie umana; oggi, secondo Nolan, il peso delle scelte morali è sulle spalle di chi lavora all’intelligenza artificiale, i cui sviluppi sono in potenza "terrificanti", non foss’altro perché si potrebbe perfino arrivare, in un corto circuito storico-scientifico, a creare sistemi algoritmici impiegati in ambito militare e capaci di decidere in proprio l’uso dell’arma atomica contro il “nemico”.
Il punto, dice Nolan, è l’assunzione di responsabilità: se le persone – cioè i tecnici, gli scienziati, prima ancora che i politici – non si preoccupano delle conseguenze che avranno gli algoritmi, siamo condannati. Tutto il peggio di quel che può accadere, suggerisce il regista, alla fine accadrà davvero. Sappiamo, grosso modo, qual è lo scenario paventato da chi conosce da vicino la materia: algoritmi che prendono decisioni cruciali per la vita pubblica (nella giustizia, nell’istruzione, nel lavoro) su basi imperscrutabili; sostituzione sistematica del lavoro umano, anche di quello intellettuale; produzione massiva di fake news; controlli invasivi da “Grandissimo” Fratello; fino all’estremo evocato da Nolan, con sistemi algoritmici che fanno la guerra.
È possibile, naturalmente, che Nolan appartenga alla categoria dei tecno-apocalittici, che abbia calcato i toni in vista dell’uscita del suo film, che magari voglia sostenere lo sciopero in corso a Hollywood di autori e sceneggiatori timorosi d’essere rimpiazzati da algoritmi intelligenti, ma è anche possibile che le sue parole – da non tecnico, ma da conoscitore profondo dei dilemmi etici affrontati dagli scienziati coinvolti nel Progetto Manhattan – siano il classico grido d’allarme dell’intellettuale pubblico: una richiesta di concentrare tutta l’attenzione dovuta su una questione chiave per l’intera umanità.
Nolan, del resto, è in buona compagnia, se pensiamo ai timori espressi da uno dei pionieri della ricerca sull’intelligenza artificiale come Geoffrey Hinton, arrivato a dimettersi da Google per potersi dedicare più liberamente a un’azione di critica attiva, o ancora al clamoroso appello lanciato nel marzo scorso da un migliaio di studiosi, tecnici, scienziati, imprenditori, osservatori indipendenti a sospendere per sei mesi la ricerca nei sistemi avanzati di intelligenza artificiale, in modo da dare il tempo alle autorità pubbliche di dettare alcune leggi, di imporre cioè alcuni limiti prima che sia troppo tardi.
L’appello è stato semplicemente ignorato. Eppure conteneva, fra le altre cose, domande retoriche piuttosto inquietanti: "Dovremmo sviluppare menti non umane che alla fine potrebbero superarci di numero, essere più intelligenti, renderci obsoleti e sostituirci? Dobbiamo rischiare di perdere il controllo della nostra civiltà?"
Tutto è quindi rimesso a un mercato senza regole, dominato da aziende private - Big Tech - che agiscono in totale segretezza e senza rendere conto a nessuno.
Nel 1945, un paio di mesi prima che il presidente Truman decidesse di far decollare Enola Gay dalle Isole Marianne verso Hiroshima col suo carico di morte (la bomba atomica chiamata amichevolmente “Little Boy”), il famoso fisico ungherese Leó Szilárd tentò di convincere i vertici politici e militari degli Stati Uniti a limitarsi a una dimostrazione di potenza.
Si può fermare la guerra, diceva in sostanza Szilárd, invitando i generali giapponesi a un esperimento atomico in qualche deserto: avrebbero visto e capito che gli Usa disponevano di una potenza distruttrice mai vista prima e si sarebbero arresi, essendo peraltro la guerra, con la Germania nazista sgominata, ormai perduta anche per l’impero giapponese. Secondo Szilárd si potevano salvare migliaia di vite e si poteva evitare nel dopo guerra una rischiosa competizione sull’arma nucleare fra stati e blocchi contrapposti. Era una questione morale, con evidenti implicazioni politiche.
Szilárd tentò molte strade – petizioni dirette, appelli privati e pubblici, faccia a faccia con militari e ministri – e cercò sostegno fra i colleghi fisici impegnati nel Progetto Manhattan, quelli che avevo concepito la bomba atomica. Ma non ebbe successo. Pochi lo seguirono e prevalse la linea opposta.
Il “momento Oppenheimer” si risolse nel modo che sappiamo; forse oggi dovremmo sperare in un “momento Szilárd”: abbiamo ancora il tempo – chissà per quanto – per fare la scelta giusta.