La Banca Centrale Europea (BCE) sta valutando con particolare attenzione il rischio che le istituzioni bancarie dell’area euro possano correre nell'adozione di tecnologie avanzate come Mythos Preview, modello di intelligenza artificiale sviluppato da Anthropic. Rilasciato recentemente da uno dei principali player del settore dei grandi A.I. models, Mythos Preview si distingue per la capacità di individuare potenziali vulnerabilità nel software e di fornire informazioni utili per lo sviluppo di exploit. Una funzionalità di interesse notevole da parte degli esperti di sistema informatico, ma che solleva importanti domande di carattere sicurezza e gestione del rischio.
Gli obiettivi della riunione BCE
La BCE ha convocato le banche dell’area euro per una riunione il 26 maggio con l’intento dichiarato di valutare i rischi sistemici derivanti dall’utilizzo di tecnologie di intelligenza artificiale come Mythos Preview. Secondo fonti interne, il modello potrebbe rappresentare un’opportunità per migliorare il livello di cybersecurity in settori ad alta sensibilità. Tuttavia, la sua diffusione potrebbe incorrere in errori di identificazione delle vulnerabilità, generando falsi positivi che, se non gestiti correttamente, potrebbero compromettere la struttura informativa di istituti finanziari.
Un modello all’avanguardia
Mythos Preview si posiziona come uno strumento di intelligenza artificiale estremamente avanzato, concepito per essere utilizzato nella ricerca di vulnerabilità. Il modello funziona analizzando dati strutturati e non strutturati, con algoritmiche specifiche per il parsing del codice e la sua analisi critica. Si prevede che possa fornire un vantaggio competitivo alle banche che lo integreranno nei loro sistemi di controllo interno, ma è necessario uno sforzo considerevole per adattarlo alle esigenze dell’ambiente bancario.
I falsi positivi: un rischio non trascurabile
Uno dei maggiori ostacoli all’adozione di modelli di intelligenza artificiale come Mythos Preview è rappresentato dai falsi positivi. I modelli di intelligenza artificiale non sono perfetti, soprattutto se trattano dati complessi o poco documentati. I falsi positivi, se non opportunamente verificati, possono condurre in errori di valutazione che espongono la struttura tecnica di un istituto al rischio di vulnerabilità non realmente esistenti. Per questo motivo, sono necessari processi di governance e controllo per mitigare questi rischi.
Governance dei modelli tecnologici
Un aspetto cruciale nella valutazione di Mythos Preview è la sua governance. La capacità di un modello come questo di essere utilizzato correttamente dipende da una serie di fattori, come l’addestramento sui dati, le policy di accesso e la sua integrazione in un sistema esistente. La BCE sta valutando se le banche europee siano sufficientemente preparate a gestire modelli di intelligenza artificiale di frontiera, e se vi siano regole in grado di garantire che l’accesso ad alcune tecniche avanzate non cada in mani errate.
Aspetti da considerare
In particolare, l’utilizzo tecnologico di un modello come Mythos richiede una serie di controlli:
- Accesso controllato alle tecnologie da parte di personale qualificato
- Integrazione sicura con sistemi interni
- Creazione di patch software certificate e verificate
- Addestramento continuo del modello su dati aggiornati
- Implementazione di una governance chiara e trasparente
La sfida delle patch software
Uno degli elementi fondamentali dell’applicazione di Mythos Preview risiede nella capacità dell’istituzione di generare risposte rapide alle vulnerabilità rilevate. Questo richiede la produzione e l'applicazione delle corrispondenti patch software. Sebbene l’utilizzo di intelligenza artificiale possa accelerare l’identificazione delle criticità, la gestione operativa delle patch non può essere automatizzata del tutto. Le banche devono valutare in modo rigoroso ogni intervento di aggiornamento, per non compromettere la stabilità del sistema.
Tecnologia, sicurezza e rischi sistemici
Il tema in primo piano diventa dunque come equilibrare innovazione tecnologica e sicurezza finanziaria. Le banche si trovano a dover scegliere tra adottare modelli AI avanzati e mantenere una governance robusta su tali tecnologie. L'esperienza mondiale dimostra che modelli simili, se non controllati, possono portare alla diffusione di rischi non prevedibili. La BCE, dunque, sta cercando di anticipare queste problematiche per l’area euro.