Una petizione globale per una nuova governance dell’AI
Un consorzio di più di cento scienziati, ricercatori e accademici provenienti da università e istituti di ricerca di tutto il mondo ha firmato una petizione indirizzata a governi, organizzazioni internazionali e istituzioni finanziarie. L’obiettivo è la creazione di un organismo internazionale indipendente, dotato di mandato legale, che possa supervisionare lo sviluppo, il test e l’impiego di intelligenze artificiali avanzate (IA ad alto livello di autonomia e capacità cognitiva).
La petizione, pubblicata sul sito Zonebourse, è stata firmata da nomi di spicco nel campo dell’intelligenza artificiale, dell’etica tecnologica e della sicurezza informatica, tra cui Stuart Russell, professore di informatica all’Università della California, Berkeley, e Yoshua Bengio, vincitore del premio Turing. Gli autori avvertono che l’attuale contesto normativo è frammentario, insufficiente a gestire le potenziali minacce derivanti da sistemi di IA che superano le capacità umane.
Perché è necessario un organismo internazionale?
Secondo i firmatari, la mancanza di un quadro di riferimento globale espone la società a diversi pericoli:
- Rischi esistenziali: sistemi di IA con capacità di auto-miglioramento potrebbero raggiungere una “singolarità” che rende difficile o impossibile controllarli.
- Corruzione e uso improprio: paesi o attori non statali potrebbero sfruttare IA avanzate per scopi militari, di sorveglianza o di manipolazione economica.
- Disparità economiche: la concentrazione di potenza computazionale nelle mani di poche grandi corporation aumenta il divario di ricchezza e di potere tra le nazioni.
Gli scienziati evidenziano inoltre che gli approcci nazionali, seppur utili, risultano inefficaci quando si tratta di tecnologie che non rispettano i confini geografici. “Un singolo standard internazionale è l’unica via per garantire che la ricerca e l’applicazione dell’IA siano allineate a valori condivisi di sicurezza, trasparenza e rispetto dei diritti umani”, ha dichiarato la prof.ssa Kate Crawford, esperta di etica dei dati.
Le proposte chiave del documento
Il testo della petizione definisce una serie di compiti e poteri che l’organismo dovrebbe possedere:
1. Valutazione e certificazione delle tecnologie IA
Ogni progetto di IA avanzata dovrebbe sottoporsi a una valutazione di rischio indipendente, simile a quelle richieste per farmaci o impianti nucleari. I risultati della valutazione dovrebbero determinare se il progetto può proseguire, richiedere modifiche tecniche o, in casi estremi, essere sospeso.
2. Monitoraggio continuo e audit
L’organismo dovrebbe mantenere un registro globale di tutti i sistemi di IA avanzata, descrivendo le loro capacità, i dati di addestramento e le politiche di utilizzo. Audits periodici, condotti da esperti internazionali, sarebbero obbligatori per verificare la conformità alle linee guida.
3. Norme di trasparenza e responsabilità
Le aziende e i laboratori di ricerca dovrebbero rendere pubblici, in forma aggregata, i modelli di base, i dataset critici e le metodologie di addestramento, proteggendo al contempo la proprietà intellettuale sensibile. Inoltre, dovrebbe essere chiaro chi è responsabile in caso di danni causati da un modello di IA.
4. Sancioni e meccanismi di enforcement
In caso di violazione delle norme, l’organismo avrebbe l’autorità di imporre sanzioni finanziarie, revocare certificazioni e, se necessario, bloccare l’export di tecnologie critiche. Le sanzioni dovrebbero essere proporzionali al rischio generato.
5. Coordinamento con organismi esistenti
L’ente dovrebbe cooperare con agenzie già operative, come l’UNESCO, l’Organizzazione per la Cooperazione e lo Sviluppo Economico (OCSE) e la Commissione Europea, per evitare duplicazioni e sfruttare le competenze già consolidate.
Il contesto geopolitico e le tensioni attuali
Negli ultimi anni, la corsa allo sviluppo di IA generative e di sistemi autonomi ha intensificato le rivalità tra le principali potenze tecnologiche. Gli Stati Uniti e la Cina stanno investendo miliardi di dollari nella ricerca di IA, con un focus crescente sulla capacità di “decisione autonoma” in ambito militare. Questa competizione ha già portato a dibattiti sulla necessità di “regole di guerra” per le armi autonome, ma la mancanza di un organismo centrale rende difficile l’applicazione di norme condivise.
Nel frattempo, l’Unione Europea ha introdotto il quadro di Artificial Intelligence Act, ma il provvedimento si concentra principalmente su applicazioni ad alto rischio, lasciando ampi spazi grigio per le tecnologie di frontiera. Il Consiglio di Sicurezza delle Nazioni Unite ha avviato discussioni preliminari, ma finora non è stato adottato alcun trattato vincolante.
Le reazioni della comunità industriale
Le principali società tecnologiche hanno risposto con cautela. Alcune, come OpenAI e DeepMind, hanno già implementato pratiche di “red teaming” interno, dove esperti rivolgono attacchi simulati ai propri modelli per identificare vulnerabilità. Tuttavia, questi sforzi rimangono volontari e non sono soggetti a controlli esterni.
Altre aziende, tra cui grandi fornitori di cloud computing, hanno espresso preoccupazione per le potenziali implicazioni di una regolamentazione internazionale, temendo ritardi nella commercializzazione e impatti competitivi. Alcuni rappresentanti hanno suggerito che il nuovo organismo dovrebbe operare con “un approccio basato sul rischio” e non ostacolare l’innovazione.
Impatto potenziale su ricerca e sviluppo
Se adottato, il nuovo ente potrebbe introdurre cambiamenti sostanziali nei processi di ricerca:
- Finanziamento condizionato: i finanziamenti pubblici e privati potrebbero essere vincolati al rispetto delle certificazioni dell’organismo.
- Open science accelerata: la condivisione di dataset e architetture potrebbe aumentare la trasparenza e ridurre la duplicazione di sforzi.
- Limiti alla sperimentazione: progetti ad alto rischio, come quelli che mirano a superare la singolarità, potrebbero richiedere approvazioni più stringenti e tempi più lunghi.
Molti ricercatori ritengono che, nel lungo periodo, un quadro uniforme aumenterebbe la fiducia del pubblico verso l’IA e favorirebbe l’adozione responsabile delle tecnologie più avanzate.
Prossimi passi e chiamata all’azione
Gli autori della petizione invitano i governi a convocare una conferenza internazionale entro il 2025, con la partecipazione di tutte le parti interessate: Stati, ONG, centri di ricerca, industrie e società civile. L’obiettivo è definire lo statuto dell’organismo, stabilire le sue fonti di finanziamento (idealmente un mix di contributi statali, quote di licenza e fondi di ricerca) e fissare un calendario per l’attuazione delle prime linee guida.
Nel frattempo, la comunità scientifica continua a pubblicare lavori sul alignment problem, sulla robustezza dei modelli e sui meccanismi di “interpretability”. I ricercatori incoraggiano anche il pubblico a informarsi sui rischi dell’IA avanzata e a partecipare ai dibattiti pubblici, affinché le future politiche riflettano un consenso ampio e informato.
Conclusioni
La richiesta di un organismo internazionale per la supervisione dell’IA avanzata rappresenta una risposta coordinata a una sfida senza precedenti. Se realizzata, una struttura globale di valutazione, certificazione e sanzione potrebbe mitigare i rischi più gravi, promuovere l’innovazione responsabile e ridurre le tensioni geopolitiche legate a tecnologie che potrebbero ridefinire il potere mondiale. La sfida, ora, è trasformare la volontà scientifica in azione politica concreta.