Il problema delle decisioni automatizzate
Algoritmi e piattaforme decidono quali informazioni ci raggiungono, come veniamo valutati per un mutuo o un lavoro, se possiamo continuare a usare un servizio da cui dipende la nostra attività. I diritti tradizionali restano validi, ma per esercitarli è necessario capire e contestare le decisioni generate dalle macchine.
Un caso tipico è la sospensione di un account da parte di un sistema automatico. Il collaboratore di un parlamentare, chiamato Leandro, accende il computer e scopre che il suo account è stato chiuso: posta, documenti e sei anni di lavoro spariti. L’unico rimedio è un modulo online che promette una risposta “entro quindici giorni lavorativi”, senza alcuna spiegazione sul motivo della sospensione.
Questa è la realtà narrata in Sudditi digitali, il libro pubblicato con il Digital Transformation Institute, che utilizza undici dialoghi tra figure mitologiche e storiche – Dedalo, Solone, Ipazia, Filemone, Bauci, Creonte, Alcibiade e Trasimaco – per illustrare il rapporto tra cittadini, tecnologie e potere.
Le decisioni che oggi incidono di più sulla vita delle persone riguardano ciò che vediamo, come veniamo valutati e se possiamo continuare a usare un servizio fondamentale. Sempre più spesso le prendono sistemi progettati e gestiti da soggetti privati, per lo più extraeuropei, che nessuno ha eletto e che non sono tenuti a spiegare i propri criteri.
Sovranità cognitiva e diritti cognitivi
I diritti, sulla carta, includono la difesa da una decisione, la libertà di informazione, l’uguaglianza di trattamento e la partecipazione pubblica. Tuttavia, ognuno di questi presuppone condizioni che le costituzioni non hanno mai dovuto esplicitare: conoscere le ragioni di una decisione, sapere da dove provengono le informazioni e poter accedere ai luoghi e agli strumenti della partecipazione.
Queste condizioni stanno cambiando. Una parte crescente di ciò che leggiamo è ordinata da sistemi i cui criteri sono poco trasparenti. Un mutuo, un lavoro o un contributo pubblico possono dipendere da valutazioni algoritmiche che né gli utenti né gli operatori sanno ricostruire fino in fondo.
Il rischio è mantenere i diritti “sulla carta” mentre si svuotano le condizioni che ne permettono l’esercizio, trasformando i cittadini in sudditi digitali. La proposta avanzata nel libro è riconoscere nuovi diritti, i diritti cognitivi, per garantire l’esercizio di tutti gli altri.
Il concetto di sovranità è distinto dal sovranismo. Il sovranismo è una posizione politica che vuole riportare poteri allo Stato nazionale; la sovranità, invece, indica la capacità di prendere decisioni ultime in un ambito e di renderle effettive. La sovranità digitale si declina in tre livelli:
- Sovranità tecnologica: controllo su infrastrutture (semiconduttori, cloud, data center, piattaforme).
- Sovranità dei dati: chi raccoglie, conserva, circola e accede ai dati e per quali finalità.
- Sovranità cognitiva: capacità di comprendere, governare e contestare le logiche che trasformano i dati in decisioni.
Sovranità tecnologica
Un continente che utilizza tecnologie prodotte altrove e infrastrutture non controllate non può essere pienamente sovrano. La dipendenza da fornitori esteri di chip o da cloud non europei limita la capacità di esercitare il potere decisionale su strumenti critici.
Sovranità dei dati
L’Europa ha risposto a questa sfida concentrandosi sulla regolamentazione dei dati: il GDPR (Regolamento UE 2016/679) impone regole severe su raccolta, conservazione e utilizzo dei dati personali, garantendo ai cittadini il diritto di accesso, rettifica e cancellazione.
Sovranità cognitiva
Nel nuovo scenario dell’intelligenza artificiale, non basta controllare i dati: è fondamentale controllare ciò che viene ricavato da essi. Quando un algoritmo seleziona un curriculum, assegna una priorità diagnostica o ordina le notizie, la questione centrale è il criterio di trasformazione dei dati in risultato. Spesso tali criteri sono incorporati in modelli sviluppati altrove, con obiettivi e metriche non scelti dai cittadini europei.
Le normative europee e i loro limiti
L’Unione europea ha introdotto una serie di regolamenti per affrontare queste sfide:
- GDPR (2016/679): obbliga le motivazioni, i reclami, la sorveglianza umana e il diritto alla spiegazione.
- Regolamento sui servizi digitali (2022/2065): introduce obblighi di trasparenza per le piattaforme online.
- Regolamento sull’intelligenza artificiale (2024/1689): richiede etichette per contenuti sintetici, valutazioni di rischio e supervisione umana.
Queste garanzie consentono di conoscere o contestare una decisione, ma non sempre permettono di intervenire sui criteri che la generano. Per esempio, l’articolo 22 del GDPR disciplina le decisioni basate unicamente su trattamenti automatizzati, ma la Corte di giustizia dell’UE, nella sentenza C‑203/22 (Dun & Bradstreet Austria, 27 febbraio 2025), ha precisato che la spiegazione deve consentire di comprendere e contestare la valutazione.
Il caso di Filemone e Bauci
Nel libro, la storia di Filemone e Bauci illustra la distanza tra diritto e pratica. Dopo trentadue anni di lavoro regolare e due stipendi, la loro richiesta di mutuo viene rifiutata con la motivazione “altri fattori rilevanti secondo i modelli adottati dall’istituto”. Nonostante il GDPR preveda il diritto a una spiegazione, le banche spesso forniscono risposte vaghe, impossibili da verificare o contestare.
Proposte per i diritti cognitivi
Per colmare il divario, il libro propone una serie di diritti cognitivi, tutti finalizzati a garantire la trasparenza, il controllo umano e la partecipazione collettiva:
- Diritti di conoscibilità: obbligo per i sistemi di rendere pubblici i criteri di valutazione, le metriche e le fonti di dati.
- Diritti di controllo umano reale: la decisione finale deve essere presa o verificata da una persona qualificata, non solo da un algoritmo.
- Diritti di ricorso efficace: procedure di contestazione rapide, con risposta entro termini certi e possibilità di revisione indipendente.
- Diritti di partecipazione collettiva: meccanismi che consentano a gruppi di cittadini di influire sulle politiche algoritmiche, ad esempio tramite consigli consultivi o piattaforme di co‑governance.
- Diritti di audit e verifica: accesso a audit indipendenti dei modelli, con possibilità di richiedere la correzione di bias o errori sistematici.
Implementazione pratica
Per rendere operativi questi diritti, è necessario:
- Integrare nel GDPR una clausola specifica che richieda la divulgazione dei parametri di modello.
- Creare un organismo europeo di “Guardiani Cognitivi” con poteri di ispezione e sanzione su piattaforme che non rispettano i diritti cognitivi.
- Promuovere la formazione digitale dei cittadini, affinché possano interpretare le spiegazioni tecniche offerte dagli algoritmi.
- Incentivare lo sviluppo di “modelli spiegabili” (XAI) attraverso fondi di ricerca e premi per la trasparenza.
- Stabilire standard di interoperabilità tra le piattaforme, così che gli utenti possano migrare i propri dati senza perdere la capacità di contestare decisioni.
Conclusioni
La sovranità cognitiva è la chiave per evitare che i diritti rimangano solo parole su carta. Senza la possibilità di conoscere, contestare e influire sui criteri algoritmici, i cittadini rischiano di diventare semplici sudditi digitali, soggetti a decisioni opaque e incontestabili. Riconoscere i diritti cognitivi significa affermare che la democrazia deve estendersi anche al regno delle macchine, garantendo che il potere degli algoritmi sia soggetto a controllo umano reale, trasparenza e partecipazione collettiva.
Solo così l’Europa potrà davvero esercitare la propria sovranità digitale, non solo proteggendo i dati, ma anche governando le logiche che trasformano quei dati in scelte che incidono sulla vita quotidiana di milioni di persone.