La Commissione europea ha pubblicato nel maggio 2026 le bozze delle Linee guida per la classificazione dei sistemi di intelligenza artificiale ad alto rischio, rientrando nell’ambito normativo del Regolamento UE 2024/1689, conosciuto come AI Act. Questo documento guida i soggetti interessati su come applicare correttamente i criteri definiti nell’attuale regolamentazione e chiarisce il contesto in cui vengono esaminati i sistemi IA in settori chiave come la sanità, la gestione del lavoro, la biometria e i servizi essenziali.
Criteri di classificazione: Allegato I ed esenzioni
Al centro delle Linee guida c’è l’elenco del Regolamento UE, in particolare l’Allegato I, che elenca i tipi di sistemi IA che possono essere automaticamente definiti ad alto rischio. Questo elenco comprende sistemi utilizzati per l'accesso a beni o servizi essenziali, la gestione dell’esercito, l’immigrazione, la prevenzione delle frodi, il credito, il reclutamento e la salute mentale.
Per evitare sovrapposizioni, i sistemi sono ulteriormente esaminati in base a potenziali danni: quelli che trattano dati biometrici sensibili vengono valutati con attenzione. Alcuni sistemi esistenti possono beneficiare di deroghe, ma devono comunque rispettare i criteri di sicurezza definiti dall’AI Act.
Il ruolo dell’Allegato III e delle deroghe
L’Allegato III, anch’esso parte integrante del regolamento, introduce un insieme di criteri qualitativi basati sulla funzione del sistema, la sua potenziale impatto sociale, e il rischio per il diritto all’autodeterminazione. I sistemi che rientrano in questi criteri potrebbero richiedere una valutazione preventiva da parte di autorità designate.
Le deroghe al sistema ad alto rischio non sono estese. Sono possibili solo quando il sistema in questione possa essere rientrato in categorie diverse, o comunque non presenti rischi rilevanti per la salute e la sicurezza collettive. Un esempio rilevante è stato fornito con sistemi IA utilizzati per l’accesso a servizi sanitari in tempo reale, dove il vantaggio terapeutico è prioritario rispetto al rischio sociale.
Profilazione e applicazioni nei settori sensibili
La profilazione e l’utilizzo di algoritmi di decisione automatizzati, in particolare in settori come il lavoro e i servizi essenziali, sono in primo piano nella Linee guida. I sistemi IA che effettuano la profilazione su larga scala, in termini di genere, status socioeconomico, salute o orientamento sessuale, saranno automaticamente ritenuti ad alto rischio.
Casi d’uso specifici: Sanità, lavoro, biometria
La sanità rappresenta uno dei settori di maggiore interesse. I sistemi IA utilizzati per diagnostiche, prevenzione e decisioni di vita o morte sono trattati con particolare attenzione. Ad esempio, un sistema che determina la priorità nel trapianto d’organi deve passare attraverso controlli rigorosi per dimostrare una corretta applicazione della normativa.
Nel settore del lavoro, sono in discussione le applicazioni IA nel recruiting, nella gestione dei contratti e nella valutazione delle performance. I sistemi che adottano criteri di valutazione non trasparenti, o che discriminano in base a criteri ritenuti inaccettabili, sono automaticamente esclusi.
La biometria, soprattutto per accessi a sistemi sensibili, è un altro ambito criticità. I sistemi che utilizzano riconoscimento facciale o biomarcatori unici, come il DNA, saranno sottoposti a una valutazione severa per garantire l’incolumità dei dati e il rispetto dei diritti dei soggetti.
Consultazione pubblica e prossimi passi
La versione attualmente disponibile è solo una bozza. La consultazione pubblica si chiuderà il 23 giugno 2026 e sarà aperta a contributi da parte degli stakeholder (aziende, enti governativi, ONG). Questo processo è cruciale per assicurare che le regole applicate tengano nella dovuta considerazione tutte le esigenze tecnologiche, giuridiche e sociali.
Conclusione: equilibrio tra innovazione e rispetto dei diritti
I nuovi strumenti normativi, pur dettagliati e rigorosi, cercano di trovare un equilibrio tra la protezione dei diritti fondamentali e la promozione dell’innovazione tecnologica. L’AI Act non cerca di fermare l’innovazione, ma di guidarla in modo che rispetti i valori europei, garantendo sicurezza, equità e legalità.