La scuola digitale e la nascita della profilazione cognitiva

L’intelligenza artificiale permette alla scuola di osservare non solo ciò che uno studente apprende, ma anche come apprende. Per molto tempo i dati prodotti dalla scuola erano pochi e facilmente comprensibili: voti, assenze, risultati delle verifiche e giudizi degli insegnanti costruivano una rappresentazione inevitabilmente incompleta ma sostanzialmente trasparente dell’esperienza scolastica.

La digitalizzazione ha modificato profondamente questo scenario. Piattaforme didattiche, registri elettronici, ambienti virtuali, sistemi di adaptive learning e applicazioni di intelligenza artificiale possono oggi produrre una quantità di informazioni enormemente superiore: tempi di accesso, frequenza delle interazioni, sequenza degli errori, velocità delle risposte, materiali consultati, richieste rivolte a un tutor artificiale e modalità attraverso cui viene affrontato un problema. La scuola digitale non registra più soltanto ciò che uno studente ha imparato, ma può progressivamente osservare come impara.

Regolazione internazionale: l’AI Act europeo

La questione è diventata sufficientemente rilevante da entrare nel cuore della regolazione internazionale dell’intelligenza artificiale. L’AI Act europeo considera ad alto rischio diversi impieghi dell’AI nell’istruzione quando questi possono determinare l’accesso a percorsi educativi, valutare risultati dell’apprendimento o incidere significativamente sulla carriera dello studente.

La stessa normativa vieta, salvo circostanze molto limitate, sistemi di riconoscimento delle emozioni nei luoghi di lavoro e nelle istituzioni educative, segnale importante del confine che il legislatore europeo sta cercando di tracciare tra innovazione e invasività tecnologica (European Commission, AI Act: Regulatory framework for artificial intelligence).

Non tutto ciò che una tecnologia è capace di inferire su uno studente deve necessariamente diventare informazione disponibile alla scuola.

Intelligenza artificiale generativa e nuovi tipi di dati

Il dialogo con un tutor artificiale genera informazioni qualitativamente differenti da quelle contenute in un normale registro elettronico. Uno studente non si limita a indicare se conosce o meno una risposta, ma può mostrare esitazioni, strategie, domande, errori ricorrenti e modalità attraverso le quali costruisce un ragionamento.

Se queste interazioni vengono analizzate longitudinalmente, diventa teoricamente possibile costruire rappresentazioni sempre più sofisticate delle caratteristiche individuali: non solo cosa lo studente conosce, ma quali spiegazioni funzionano meglio, quali argomenti evita, quanto persiste davanti a una difficoltà, quali strategie utilizza e quali percorsi sembrano statisticamente più adatti a lui. Dal profilo scolastico potremmo passare progressivamente al profilo cognitivo.

Promessa educativa e rischi emergenti

Conoscere meglio uno studente permette di intervenire prima, personalizzare il supporto, individuare difficoltà che potrebbero altrimenti rimanere invisibili e offrire opportunità più coerenti con i suoi bisogni. UNESCO riconosce le potenzialità dell’AI nel rendere l’apprendimento più accessibile e personalizzato, ma richiama contemporaneamente l’attenzione sulla protezione dei dati, sulla sicurezza, sull’equità e sulla necessità di preservare l’agency degli studenti (UNESCO, AI and education: Protecting the rights of learners, 2025).

La tensione fondamentale è tutta qui: quanto dobbiamo conoscere una persona per aiutarla a imparare meglio e quanto, invece, dobbiamo accettare di non conoscere per proteggerne la libertà?

Minori, consapevolezza e identità algoritmica

Per un adulto è almeno teoricamente possibile comprendere che le proprie interazioni digitali producono dati utilizzabili per profilazione e raccomandazione. Per un minore, questa consapevolezza è molto più difficile da costruire. Inoltre, un dato educativo riguarda spesso capacità ancora in formazione: una difficoltà mostrata a dodici anni non descrive necessariamente una caratteristica permanente della persona.

Un interesse può cambiare, una debolezza può diventare competenza, una predisposizione può scomparire e un talento può emergere molto tempo dopo. Trasformare troppo presto comportamenti temporanei in identità algoritmiche significa rischiare di confondere ciò che uno studente è stato con ciò che potrà diventare.

Profilazione educativa vs profilazione commerciale

Se una piattaforma conclude che preferiamo un certo genere cinematografico, le conseguenze saranno probabilmente limitate alle raccomandazioni che riceveremo. Se un sistema educativo conclude che uno studente possiede determinate capacità, difficoltà o probabilità di successo, quella previsione potrebbe invece incidere sulle opportunità offerte, sul livello di difficoltà degli esercizi, sui percorsi suggeriti e, indirettamente, persino sulle aspettative degli adulti che lo accompagnano.

L’algoritmo non si limiterebbe più a descrivere il percorso educativo; potrebbe contribuire a costruirlo.

Quadro normativo: GDPR e AI Act

Il GDPR offre già tutele importanti rispetto ai dati personali, alla profilazione e ai processi decisionali automatizzati, mentre l’AI Act aggiunge un ulteriore livello di protezione per alcuni utilizzi dell’intelligenza artificiale ad alto rischio. Tuttavia, la rapidità con cui stanno evolvendo i sistemi educativi suggerisce che il dibattito potrebbe presto spostarsi oltre la sola protezione dei dati.

La questione non riguarda soltanto chi possiede un’informazione, ma se quella informazione debba essere prodotta in primo luogo. Potremmo arrivare a riconoscere che esistono dimensioni dell’apprendimento che, pur essendo tecnicamente misurabili, devono rimanere almeno in parte non misurate.

Il diritto all’opacità cognitiva

Da qui nasce una possibilità che fino a pochi anni fa sarebbe sembrata quasi paradossale: accanto al diritto ad accedere alla conoscenza potremmo avere bisogno di riconoscere un diritto all’opacità cognitiva. Non il diritto a sottrarsi alla valutazione o a impedire alla scuola di svolgere la propria funzione educativa, ma il diritto a non essere continuamente trasformati in un insieme di probabilità, indicatori e previsioni.

Il diritto, soprattutto durante gli anni della formazione, è quello di conservare una parte di sé che l’algoritmo non conosce ancora. L’educazione vive di una convinzione che nessun modello predittivo dovrebbe cancellare: uno studente è sempre qualcosa di più dei dati che ha prodotto fino a quel momento.

Verso una scuola saggia, non onnisciente

Una scuola realmente intelligente non sarà quella capace di conoscere tutto dei propri studenti, ma quella sufficientemente saggia da sapere cosa scegliere deliberatamente di non misurare. Se accettiamo che l’intelligenza artificiale renda possibile costruire rappresentazioni sempre più sofisticate dello studente, limitarsi a discutere di privacy rischia di non essere più sufficiente.

La privacy riguarda principalmente la raccolta, il trattamento e la circolazione dei dati personali; la profilazione cognitiva introduce invece un problema ulteriore, perché dai dati osservati vengono prodotte inferenze su caratteristiche che non sono state direttamente dichiarate. Un sistema potrebbe dedurre che uno studente possiede una determinata capacità di attenzione, che tende ad abbandonare i problemi complessi, che apprende meglio attraverso certe modalità, o che presenta una