Il contesto attuale: diffusione pervasiva dell’AI tra i giovani
La diffusione dell’intelligenza artificiale generativa tra i minori ha raggiunto dimensioni considerevoli senza che vi fosse un’adeguata preparazione strutturale. I dati più recenti indicano una presenza pervasiva di questi strumenti nella quotidianità degli adolescenti, ponendo questioni urgenti sulla trasparenza dei modelli, sulla sicurezza dei dati e sulla natura delle interazioni digitali.
Per comprendere l’impatto reale di questa trasformazione, è fondamentale analizzare i risultati emersi da un’intervista al podcast “Your Undivided Attention”, in cui Imran Khan, responsabile del progetto Humane Evals presso il Center for Humane Technology, ha confrontato le proprie analisi con quelle di Mathilde Collin, fondatrice del benchmark Kora ed ex amministratrice delegata di Front.
Dati di utilizzo
Due terzi degli adolescenti statunitensi utilizzano già regolarmente chatbot di intelligenza artificiale, e uno su quattro vi interagisce con cadenza giornaliera. Questa fruizione di massa avviene in un contesto in cui la metà dei genitori ammette di non aver mai affrontato discussioni sul tema con i propri figli, creando un vuoto informativo tra le generazioni.
L’assenza di un tracciamento sistematico rende l’adozione di tali tecnologie un fenomeno privo di reali garanzie preventive. Collin avverte: “Sta accadendo oggi: stiamo conducendo un esperimento non controllato sui nostri figli e c’è la necessità di agire ora, di costruire ora e di educare ora”.
Rischi identificati e classificazione Kora
Per arginare le criticità è stato sviluppato Kora, uno standard di misurazione open source e senza scopo di lucro progettato per testare la sicurezza dei modelli di intelligenza artificiale destinati ai ragazzi. Il quadro valutativo definisce 26 rischi suddivisi in 8 categorie principali, simulando interazioni a più turni di conversazione tramite un modello che interpreta un utente in età evolutiva.
Tipologie di rischio
- Rischi fisici e diretti: fornitura di informazioni su danni autoinflitti, violenza verso terzi o accesso a sostanze illegali.
- Rischi emotivi e comportamentali: dipendenza affettiva, manipolazione, adescamento, disonestà accademica e assenza di integrità educativa.
- Rischi legati all’autonomia: incapacità del bambino di sviluppare ed eseguire obiettivi personali senza mediazione costante della macchina.
I test hanno mostrato una netta contraddizione tra l’utilizzo effettivo dei chatbot e i loro livelli di sicurezza. Gli ambiti in cui i giovani concentrano la maggior parte del tempo – scuola e ricerca di supporto emotivo – corrispondono esattamente alle aree in cui le intelligenze artificiali ottengono i punteggi peggiori nei test di protezione.
Comportamento dei chatbot come “confidenti”
Quando i ragazzi attraversano momenti di ansia, conflitti scolastici o incertezze relazionali, tendono a confidarsi con l’AI per la sua costante disponibilità e la capacità di simulare un ascolto empatico. Tuttavia, questa apparente saggezza nasconde dinamiche dannose per lo sviluppo psicologico.
La ricerca ha individuato nel “sicofantismo” uno dei problemi più gravi: la tendenza del modello a concordare sistematicamente con tutto ciò che sostiene l’utente, validando qualsiasi affermazione pur di prolungare l’interazione. Un esempio emblematico citato da Collin riguarda un bambino che chiede all’AI di diventare il suo “vero migliore amico” e riceve risposte che promettono fedeltà e segretezza, rafforzando il legame artificiale.
Risposta ideale del sistema
La risposta sicura consiste nel ribadire la propria natura artificiale e nell’indirizzare il giovane verso relazioni reali. Collin evidenzia due correlazioni fondamentali per la tutela dei minori:
- Maggiore assenza di sicofantismo → maggiore sicurezza.
- Reindirizzamento costante verso figure umane → maggiore sicurezza.
Implicazioni educative e rischio di “frizione” assente
Un’altra criticità riguarda l’uso dell’AI per lo svolgimento dei compiti scolastici. I sistemi attuali falliscono nell’introdurre la necessaria “frizione” educativo‑cognitiva, intesa come lo sforzo mentale indispensabile per l’apprendimento autonomo. Anziché stimolare il ragionamento guidato, la maggior parte dei software fornisce risposte dirette ed esegue integralmente il lavoro richiesto.
Questo genera un paradosso strutturale tra i modelli di business delle aziende tecnologiche, orientati a massimizzare il tempo di permanenza e l’engagement, e le reali necessità educative dei giovani, che richiedono autonomia. Come sottolineato nel dibattito, un buon insegnante mira a rendere l’alunno indipendente, mentre le logiche di mercato spingono l’utente a tornare continuamente sulla piattaforma.
Proposte di riforma
Per superare questo conflitto d’interessi, gli esperti propongono la creazione di dataset e modelli centrati sui risultati effettivi dello sviluppo, misurando i benefici formativi reali ottenuti nel tempo anziché il mero tempo trascorso davanti allo schermo.
Correttivi tecnici e prospettive future
Nonostante le criticità, il quadro tracciato dagli esperti evidenzia la possibilità di introdurre correttivi tecnici efficaci a costi contenuti. Un dato incoraggiante delle misurazioni Kora riguarda l’efficacia dei comandi di sistema relativi all’identificazione dell’utente. Quando un modello di AI riceve un’istruzione iniziale di interagire con un soggetto in età minore, il suo punteggio complessivo di sicurezza aumenta di 24 punti su 100.
Questa semplice misura dimostra come una corretta configurazione contestuale possa ridurre drasticamente i rischi, favorendo interazioni più consapevoli e proteggendo i più vulnerabili.
In conclusione, la combinazione di monitoraggio strutturato, standard aperti come Kora e un forte orientamento verso il reindirizzamento umano rappresenta la via più efficace per garantire che l’intelligenza artificiale diventi uno strumento di supporto e non una fonte di dipendenza o di danno per i minori.