Il contesto normativo e il ruolo di AgID
Nel 2023 l’Agenzia per l’Italia Digitale (AgID) ha pubblicato le Linee guida sull’adozione dell’intelligenza artificiale nella Pubblica Amministrazione. Il documento si inserisce nel più ampio Piano nazionale di ripresa e resilienza (PNRR) e nella Strategia nazionale per l’intelligenza artificiale (AI Strategy), con l’obiettivo di garantire che l’AI sia usata in modo responsabile, trasparente e al servizio dei cittadini.
Le linee guida sono strutturate in quattro capitoli. I primi tre trattano rispettivamente la governance, la documentazione dei casi d’uso e le competenze tecniche. Il capitolo 4, tuttavia, è considerato il fulcro perché definisce il processo di valutazione d’impatto (AI Impact Assessment) e le misure di mitigazione per i sistemi a rischio, anche minimo.
Da dove deve partire un’amministrazione pubblica?
Il primo passo consigliato è la nomina di un Responsabile della Trasformazione Digitale (RTD), figura centrale per coordinare l’intero percorso di adozione dell’AI. L’RTD deve avere competenze sia tecniche che normative e deve essere supportato da un team multidisciplinare, includendo esperti di diritto, etica, sicurezza informatica e data science.
Parallelamente, l’amministrazione deve redigere una Strategia AI che includa:
- Obiettivi di business chiari e misurabili;
- Identificazione dei processi idonei alla automazione o al supporto decisionale;
- Definizione di criteri di priorità basati su impatto sul cittadino e fattibilità tecnica.
Questa strategia deve essere condivisa con tutti gli organi decisionali e inserita nel Piano triennale per l’informatica (PTI), garantendo così coerenza con le politiche di investimento pubblico.
Esempio pratico: la gestione delle domande di contributo
Un comune di medio dimensione ha avviato un progetto pilota per automatizzare la valutazione delle domande di contributo per la riqualificazione energetica. Dopo aver definito l’obiettivo (ridurre i tempi di risposta da 30 a 5 giorni), ha coinvolto il RTD, il responsabile del bilancio e un data scientist. La strategia AI ha previsto l’uso di un algoritmo di classificazione basato su machine learning, addestrato su dati storici anonimizzati.
Documentazione dei casi d’uso e tracciabilità
Le linee guida richiedono di creare un catalogo dei casi d’uso, dove ogni progetto AI è descritto in modo dettagliato:
- Finalità e benefici attesi;
- Tipologia di dati utilizzati;
- Livello di rischio (alta, media, bassa, minimo);
- Modalità di valutazione d’impatto.
Questa documentazione non è solo un obbligo di compliance, ma un vero strumento di governance: consente di monitorare l’intero ciclo di vita dell’AI, di identificare eventuali deviazioni e di pianificare interventi correttivi.
Strumenti di tracciabilità
Per garantire la tracciabilità, le amministrazioni possono adottare piattaforme di model registry open source come MLflow o DVC, integrandole con i sistemi di gestione dei processi (BPM). Queste soluzioni registrano versioni di modello, parametri di addestramento, metriche di performance e, soprattutto, le decisioni di governance associate.
Il capitolo 4: valutazione d’impatto e gestione del rischio
Il cuore del capitolo 4 è l’AI Impact Assessment (AIIA), un processo strutturato in quattro fasi:
- Identificazione del rischio: analisi dei possibili impatti su diritti fondamentali, privacy, discriminazione e sicurezza.
- Analisi dei dati: verifica della qualità, della rappresentatività e della provenienza dei dataset.
- Misurazione delle conseguenze: simulazioni e test su set di dati di controllo per quantificare bias e errori.
- Mitigazione e monitoraggio: definizione di piani d’azione, audit periodici e revisione continua.
Per i sistemi classificati a rischio minimo, la normativa prevede una semplificazione: è sufficiente produrre una scheda di autocertificazione che attesti l’assenza di impatti discriminatori e la conformità al GDPR. Tuttavia, anche in questi casi è consigliato mantenere un registro di monitoraggio per dimostrare la trasparenza.
Case study: il servizio di assistenza virtuale del Ministero della Salute
Il Ministero ha implementato un chatbot basato su GPT per fornire informazioni su vaccini e prenotazioni. Prima del lancio, è stata condotta un’AIIA che ha evidenziato un potenziale bias nella risposta a domande relative a gruppi vulnerabili. Sono state introdotte regole di filtro e un layer di revisione umana per le richieste ad alta complessità, riducendo il tasso di errori dal 12% al 2%.
Azioni concrete per le amministrazioni
Per tradurre le linee guida in pratica quotidiana, le pubbliche amministrazioni dovrebbero:
- Formare un comitato etico AI con rappresentanti dei cittadini, esperti legali e tecnici.
- Implementare procedure di audit interno almeno una volta all’anno per tutti i sistemi AI operativi.
- Stabilire accordi di servizio (SLA) con fornitori esterni, includendo clausole di responsabilità e trasparenza.
- Promuovere la cultura della data literacy tra i dipendenti, mediante corsi di formazione e workshop pratici.
Infine, è fondamentale mantenere un canale di comunicazione aperto con i cittadini, ad esempio tramite una sezione dedicata sul portale istituzionale dove è possibile consultare le schede dei casi d’uso e i risultati delle valutazioni d’impatto.
Prospettive future e conclusioni
Le linee guida AgID rappresentano un passo decisivo verso una Pubblica Amministrazione più intelligente e responsabile. Il capitolo 4, con il suo approccio sistematico alla valutazione d’impatto, offre un modello replicabile anche in altri settori, dal tribunale al trasporto pubblico. Il vero valore, però, dipenderà dalla capacità delle amministrazioni di trasformare queste indicazioni in processi operativi concreti, investendo in competenze, strumenti di tracciabilità e una governance trasparente.
Solo così l’AI potrà diventare un alleato nella realizzazione dei principi di efficienza, equità e partecipazione, contribuendo a una PA più vicina ai bisogni dei cittadini.