Un confidente che non dorme mai, genitori che spesso non sanno, regole che faticano a tenere il passo. Per proteggere i ragazzi serve, prima di tutto, conoscenza. E un po’ di sana sfiducia.
“Io di notte mi sveglio e spesso mi vengono in mente domande esistenziali. Allora apro Chat e gli chiedo le risposte. Lui mi dà sempre risposte rassicuranti”.
Me lo ha detto un ragazzino di undici anni, durante un laboratorio di educazione civica digitale. Ne avevo scritto a febbraio, in Generazione ChatGPT, segnalando il fenomeno dei “Chat Companion”. Riparto da lì, perché quella frase, a pochi mesi di distanza, non è più un caso isolato. È la fotografia di un fenomeno che si sta consolidando.
Quello che non vediamo
A giugno di quest’anno Censuswide ha condotto, per conto della piattaforma di ripetizioni online GoStudent, uno studioeuropeo su 500 genitori italiani e sui loro figli tra gli 11 e i 17 anni. Ne emerge che il 51% dei ragazzi si è confidato con un chatbot su qualcosa di personale (solitudine, ansia, tristezza) prima di parlarne con un genitore, un amico o un insegnante. Uno su due. E il 58% dei genitori non sa se il proprio figlio lo abbia mai fatto.
Perché i ragazzi scelgono di parlare con una macchina? Le ragioni sono semplici, quasi disarmanti: il chatbot è sempre disponibile, risponde subito e in modo cordiale (cosa che noi non sempre facciamo), non racconta niente a nessuno, non giudica, rassicura. Sono le qualità che vorremmo in un buon amico. Ed è proprio qui che sta il problema.
Amico, confidente, partner
Negli Stati Uniti il fenomeno ha già un nome: AI companion, app progettate per fare da amico, confidente, a volte fidanzato o fidanzata. Secondo Common Sense Media, il 72% degli adolescenti americani le ha provate almeno una volta e circa un terzo le ha usate per relazioni sociali, inclusi rapporti romantici.
Non solo i ragazzi. Il 27 ottobre 2025 OpenAI ha reso notoche circa lo 0,15% degli utenti attivi in una settimana mostra segnali di un attaccamento emotivo elevato al chatbot, percentuale che sembra irrilevante ma, considerando che ad ottobre 2025 ChatGPT contava 800 milioni di utenti settimanali, quello 0,15% corrisponde a più di un milione di persone. Ogni settimana.
Perché una relazione di questo tipo è un problema? Perché quella con un chatbot è una relazione a senso unico. Non contraddice, non si stanca, non ha una giornata storta, dà quasi sempre ragione. Ma un amico che ci dà sempre ragione non è un amico, è uno specchio. E chi cresce davanti a uno specchio rischia di faticare, poi, nelle relazioni reali, fatte di persone che contraddicono, si stancano e, a volte, deludono.
C’è poi un aspetto che, da avvocato, non posso ignorare: questi servizi sono prodotti commerciali, il cui valore cresce con il tempo che vi trascorriamo. Giuliano Girelli, in un videopubblicato su Instagram, la chiama economia dell’attaccamento: dopo aver catturato la nostra attenzione e anticipato le nostre intenzioni, le piattaforme puntano a diventare un oggetto di affetto, ad instaurare una relazione sempre più intima. Non è un piano dichiarato delle grandi aziende tecnologiche ma è una direzione naturale. Questo non significa buttare via i nostri strumenti, come ho più volte scritto in questa rubrica. Significa comprenderli per ciò che sono.
Le regole ci sono, i controlli meno
Il 10 ottobre scorso la legge italiana sull’intelligenza artificiale (legge n. 132/2025) ha compiuto un anno. All’articolo 4 c’è una regola chiara: sotto i 14 anni l’accesso all’IA richiede il consenso dei genitori. Dai 14 anni in poi il ragazzo può decidere da solo, purché le informazioni che riceve siano facili da trovare e da capire. E il Regolamento europeo sull’IA, l’AI Act, vieta già i sistemi che approfittano della fragilità legata all’età per manipolare le persone.
I principi sono giusti. Il difficile è applicarli: come verificare, in modo efficace, l’età di chi si collega? Oggi, spesso, bastadichiarare di avere l’età giusta. Un clic, e l’IA è lì, a disposizione.
Non è un problema nuovo. Ad aprile 2025 l’Autorità garante privacy ha sanzionato per 5 milioni di euro la società che gestisce Replika, un chatbot “amico” molto diffuso, contestando anche gravi carenze proprio nella verifica dell’età degli utenti. E il 3 luglio 2026 ha sanzionato un altro companion, Character.AI, per carenze nella tutela dei minori e nel sistema di verifica dell’età.
In Europa, lo scorso settembre la Commissione ha presentato l’EU Kids Act, una proposta che punta, tra l’altro, a un accesso graduale ai servizi online in base all’età e a chatbot e companion disattivati per impostazione predefinita per i minori.
Le regole, quindi, esistono. Ma restano due nodi: i controlli, necessari per renderle effettive e, ancor prima, la capacità di comprendere i fenomeni, senza la quale nessuna regola può funzionare davvero. Il consenso dei genitori presuppone cheessi sappiano a cosa stanno dicendo sì, e conoscano limiti, rischi e opportunità delle nuove tecnologie. Se più della metà non sa nemmeno se il figlio si confida con un chatbot, quel consenso rischia di restare un modulo da spuntare.
La vera tutela, ancora una volta, non è la firma. È la conoscenza.
Insegnare a dubitare
Pochi giorni fa Luciano Floridi, ospite del podcast di Gianluca Gazzoli, è tornato su un punto che considero centrale: saper fare una domanda all’intelligenza artificiale non significa saper valutare la risposta. Per questo, ha detto, dobbiamo imparare a dubitare e a mettere in discussione quello che leggiamo.
Secondo Floridi, la chiave è essere in controllo di ciò che si usa. Lo spiega con un esempio efficace: se al ristorante c’è solo il piatto del giorno, e per di più ce lo presentano come il migliore, lo scegliamo senza pensare alle alternative. Allo stesso modo, una risposta dell’IA immediata, ben scritta e convincente ci invita alla passività. Chi ha le idee chiare, invece, sa scegliere e chiedere ciò che vuole. Ma questo è possibile solo se si è imparato a valutare. Solo se si è allenati.
L’allenamento, suggerisce Floridi, passa da un test di sfiducia: mettere alla prova l’IA, spingendola a sbagliare, per scoprire che può commettere errori. Oppure confrontare più risultati, così da costringere chi li riceve a valutarli e a scegliere.
E’ quello che abbiamo provato a fare lo scorso anno, in un laboratorio con i ragazzi: la stessa richiesta, generare un’immagine, a diversi sistemi di IA. Risultati molto diversi tra loro e, spesso, pieni di stereotipi (ne ho parlato ad agosto, in Quando l’algoritmo giudica: la discriminazione senza volto). La lezione è semplice: non esiste la risposta della macchina, ma tanti risultati possibili, da confrontare e valutare.
E questo vale ancora di più quando l’IA diventa un’amica o una confidente. Anche il chatbot che ci rassicura e ci dà sempre ragione va messo alla prova: dubitare significa ricordare che dall’altra parte non c’è un amico, ma un prodotto progettato per trattenerci.
Insegnare a dubitare, allenare a scegliere: non sono lezioni da imparare una volta per tutte, ma abitudini da coltivare quotidianamente.
In questi giorni gli studenti delle scuole superiori della nostra città stanno protestando. Poche ore prima di chiudere questo articolo, davanti all’istituto T. Buzzi, ho visto uno striscione, che mi sembra riassumere tutto il discorso: “La scuola ci insegna tutto, tranne il mondo in cui viviamo”. Non leggo quella frase come un’accusa a una scuola che non vuole insegnare il presente. La leggo come una richiesta di attenzione, da parte dei ragazzi che, forse più di noi, sentono il bisogno di essere accompagnati a capire il mondo nel quale viviamo.
