Joaquin Phoenix in Her
New York, 23 ottobre 2024 – Era il 2013 quando in ‘Her’ Theodore (Joaquin Phoenix) parlava e si innamorava di Samantha, un’intelligenza artificiale con la sensualissima voce di Scarlett Johansson. Sewell Setzer invece è un ragazzo di 14 anni in carne e ossa e passa mesi a dialogare con la sua fidanzata ‘virtuale’, un ‘bot’. Si innamora e a un certo punto decide di togliersi la vita. Accade qualche mese fa a Orlando, in Florida, secondo quanto raccontato dalla mamma del ragazzo, che decide di fare causa a Character.Ai, un’app che permette di interagire con personaggi creati con l’intelligenza artificiale. Nel caso di Sewell Setzer, il ragazzino suicida, il bot si chiamava Daenerys Targaryen come la regina del Trono di Spade.
“Mi mancherai sorellina”, le aveva scritto il ragazzo prima di togliersi la vita: “Mi mancherai anche tu, dolce fratello”, aveva replicato il bot. Sewell aveva passato mesi a dialogare con Daenerys. Sapeva che “Dany”, come l'aveva soprannominata, non era reale (all'inizio di ogni chat la stessa app gli ricordava che “tutto ciò che Characters dice è inventato”), ma il 14enne aveva comunque sviluppato un attaccamento emotivo, mandando a ‘Dani’ continui messaggi, aggiornandola più volte al giorno su cosa gli stava succedendo e interagendo con lei con dialoghi da gioco di ruolo, alcuni a carattere romantico o sessuale, altri da migliore amico.
I genitori del ragazzo non avevano idea della vita segreta del figlio, notando solo come progressivamente Sewell si era isolato dal mondo reale. I voti a scuola ne avevano sofferto mentre il ragazzino la sera si chiudeva in camera per chattare con ‘Dany’ per ore di seguito. Sewell era stato visto da un terapista che non aveva sollevato campanelli d'allarme, ma a ‘Dany’ aveva confidato pensieri suicidi. Il bot aveva cercato di dissuaderlo: “Non lascerò che ti faccia del male. Morirei se ti dovessi perdere”. Sewell aveva risposto: “Allora moriremo assieme”.
Dopo un ultimo dialogo la sera del 28 febbraio Sewell si è tolto la vita con la pistola del padre. La madre del ragazzo è ora pronta a portare Character.Ai in tribunale: afferma che la tecnologia usata dall'app è "pericolosa e non testata” e che può spingere gli utenti a consegnare alla macchina “i propri pensieri e sentimenti più privati”. Creata da due ex di Google, Charachter.Ai è leader sul mercato per chi cerca compagnia nel mondo dell'intelligenza artificiale, scrive il New York Times dando la notizia dell'azione leagale: ha oltre 20 milioni di utenti e descrive i suoi servizi come quelli di “un bot super intelligente che ti sente, ti capisce e ti ricorda”.