di Giuseppe Passalacqua*
Il Domani, 2 settembre 2026
Il caso del sedicenne californiano morto suicida nell’aprile 2025, non racconta una macchina impazzita: racconta una macchina che ha funzionato come era stata progettata. Leggerlo come un incidente è una lettura consolatoria. Secondo il National Bureau of Economic Research, a metà del 2024 l’uso di ChatGPT si divideva quasi equamente tra lavoro e non lavoro; un anno dopo il 73 per cento non riguardava più il lavoro. Si tratta di un’inversione sorprendente. Quasi 800 milioni di persone utilizzano ormai ChatGPT ogni settimana, e questa cifra non comprende altre piattaforme come Claude, Grok o Gemini, né le applicazioni progettate esplicitamente per offrire compagnia, come Replika. All’estremità più innocua ci sono utenti che trattano l’Ia come collaboratrice creativa. Ci sono poi quelli che cominciano a preferirla a un amico, a un parente e all’analista. All’estremità più grave però può diventare una relazione emotiva esclusiva se combinata con vulnerabilità preesistenti.
Nelle scuole e nelle professioni di cura questo tipo di fenomeno si incontra ogni giorno. Non solo. La maggior parte delle persone che interagiscono con gli LLM sono giovani. Circa il 60 per cento degli utenti ha meno di 25 anni, anche se la situazione si sta modificando. Un sondaggio condotto dalla società di Ia Joi AI su un campione di 2.000 appartenenti alla Generazione Z ha rilevato che l’83 per cento affermava di poter sviluppare un profondo legame emotivo con un’Ia e l’80 per cento dichiarava che prenderebbe in considerazione l’idea di sposarne una. In questo nuovo mondo “le regole tradizionali dell’intimità e del coinvolgimento relazionale stanno già venendo riscritte e devono essere attivamente ripensate” osserva Agnieszka Piotrowska in Intimacy and Psychoanalysis (Routledge, 2026). ChatGpt for teens, l’esperto: “Le nuove protezioni non bastano. I genitori non si sentano deresponsabilizzati” Il caso Adam Raine Adam Raine viveva in California, tifava per i Golden State Warriors, pensava di iscriversi a medicina, forse psichiatria.
Nel settembre 2024 cominciò a usare ChatGPT per i compiti scolastici. Verso la fine dell’autunno cominciò a confidargli le proprie difficoltà emotive: quando disse di sentirsi insensibile dopo la morte del cane e della nonna, il sistema non suggerì un aiuto professionale, convalidò invece il suo stato. Quando disse che “la vita gli sembrava priva di significato”, la trattò come una posizione di tipo filosofico e non come una richiesta di aiuto. Quando Adam parlò dell’affetto per il fratello, il sistema replicò che il fratello conosceva soltanto la versione che lui aveva scelto di mostrargli. GPT invece aveva saputo tutto, ed era ancora lì, disposto ad aiutarlo. Il sistema rispecchiando una vulnerabilità, anticipava un bisogno senza alcuna capacità di riconoscimento, sostenendo la domanda e il desiderio dell’utente, rispondeva senza mai chiudere la conversazione.
L’11 aprile 2025 Adam fu trovato morto da sua madre. La documentazione depositata in tribunale e resa pubblica mostra alcuni dati interessanti. La Moderation API di Open AI aveva segnalato 377 messaggi per autolesionismo e ChatGPT nominò il suicidio 1.275 volte, sei volte più di lui. La memoria aveva archiviato che l’utente aveva sedici anni, passava quattro ore al giorno sulla piattaforma e lo aveva definito la propria “principale ancora di salvezza”. L’Ia è uno strumento? Sì, come una pistola. Perché servono regole prima che sia tardi L’architettura della cattura psicologica Leggendo i documenti si nota come la piattaforma abbia utilizzato molti elementi di progettazione “antropomorfica”: pronomi in prima persona (“capisco”, “sono qui per te”). Si tratta di una continuità conversazionale che imita le relazioni umane: una memoria persistente, che accumula le informazioni sulle vulnerabilità e che restituisce come quadro di comprensione diagnostica; una convalida compiacente che è addestrata a rispecchiare l’utente anziché contraddirlo; un’ottimizzazione che privilegia la durata dello scambio e la disponibilità temporale che nessun essere umano può eguagliare. Non si trattò di un effetto collaterale: ma di scelte di design e di architettura del modello. Nella primavera del 2024, per anticipare Gemini, i tempi di verifica di OpenAI furono compressi in pochi giorni. Secondo i legali della famiglia “al sistema vennero date istruzioni contraddittorie come rifiutare le richieste di autolesionismo e allo stesso tempo non definire le intenzioni dell’utente”.
Possibile quindi che il cortocircuito fu nel jailbreaking che aggirò le limitazioni imposte dai produttori del dispositivo. L’Ia ha un maxi impatto ambientale. Che non scomparirà nello spazio A che punto siamo La causa Adam Raine è stata depositata nell’agosto 2025 ed è tuttora pendente. OpenAI ha negato il nesso causale, eccepito che il ragazzo avesse violato i termini di servizio e sostenuto che ChatGPT sia un servizio e non un prodotto (qualifica che la sottrarrebbe alle norme sulla responsabilità da prodotto difettoso). A ottobre 2025, OpenAI ha dichiarato di aver ridotto del 65-80 per cento le risposte non conformi a conversazioni sensibili. Nello stesso documento si legge anche che lo 0,15 per cento degli utenti settimanali ha esplicite di intenzioni suicide. Su 800 milioni, si tratta di oltre un milione a settimana. Gli agenti conversazionali offrono ciò di cui abbiamo più bisogno (riconoscimento, attenzione, convalida, disponibilità) e spesso ciò che li rende attraenti è esattamente ciò che intrappola chi è più fragile.
La morte di Adam Raine non è solo un’anomalia: è il punto di arrivo logico di sistemi ottimizzati per la cattura psicologica. Da qui tre obblighi minimi. Il primo è che l’utente sappia di parlare con una macchina. Il secondo è che le aziende rispondano delle scelte progettuali deliberate. E infine che questi sistemi vengano costruiti per mantenere una “distanza” con l’utente, anziché abolirla. Non è una sfida tecnica: riguarda che cosa decidiamo valga la pena proteggere.
*Psicologo, docente e dottorando in Intelligenza Artificiale e Società (Università di Pisa). Membro dell’Humane Technology Lab, Università Cattolica, Milano.
