Le grandi banche statunitensi stanno adottando misure per limitare l'accesso degli agenti AI ai conti correnti dei clienti. Questa decisione arriva in risposta ai numerosi rischi associati all'uso di intelligenza artificiale nel settore bancario, tra cui bonifici non autorizzati e potenziali amplificazioni dei rischi sistemici.

I rischi associati agli agenti AI

Gli agenti AI, sebbene possano automatizzare e ottimizzare molte operazioni bancarie, presentano anche significativi rischi. Uno dei principali è la possibilità di bonifici non autorizzati. Un agente AI potrebbe, ad esempio, interpretare erroneamente una richiesta di trasferimento di fondi o essere manipolato da attori malevoli per eseguire transazioni fraudolente.

Un altro rischio è rappresentato dagli spostamenti automatici dei depositi. Se un agente AI decide di spostare grandi somme di denaro tra conti o istituzioni finanziarie senza un adeguato controllo umano, potrebbe innescare reazioni a catena che amplificano i rischi sistemici. Questo è particolarmente preoccupante in un contesto di mercato finanziario già complesso e interconnesso.

Esempi concreti di rischi

Nel 2020, un sistema automatizzato di una banca europea ha causato il trasferimento errato di milioni di euro tra conti clienti. L'errore è stato scoperto solo dopo diverse ore, causando notevoli disagi e perdite finanziarie per alcuni clienti. Questo incidente ha evidenziato la necessità di controlli più rigorosi sui sistemi automatizzati.

In un altro caso, un agente AI di una banca statunitense ha eseguito bonifici non autorizzati dopo essere stato manipolato da un attacco di phishing. Gli hacker sono riusciti a ingannare il sistema AI facendogli credere di essere un cliente legittimo, permettendo così il trasferimento di fondi a conti esteri.

Chi ne risponde in caso di errori?

La questione della responsabilità in caso di errori commessi da agenti AI è complessa e non ancora completamente definita. In generale, le banche sono responsabili per le operazioni eseguite sui conti dei clienti, indipendentemente dal fatto che siano eseguite da umani o da sistemi automatizzati. Tuttavia, la responsabilità specifica può variare a seconda delle circostanze.

Se un agente AI commette un errore a causa di un malfunzionamento tecnico, la banca potrebbe essere ritenuta responsabile. D'altra parte, se l'errore è dovuto a un attacco informatico o a una manipolazione esterna, la responsabilità potrebbe essere attribuita a terzi. In molti casi, la questione potrebbe finire in tribunale, con esiti incerti.

Come prevenire i rischi

Per ridurre i rischi associati agli agenti AI, le banche possono adottare diverse misure preventive. Una delle più importanti è l'implementazione di controlli umani periodici. Anche se gli agenti AI possono automatizzare molte operazioni, è essenziale che un operatore umano verifichi regolarmente le transazioni per individuare eventuali errori o attività sospette.

Un'altra misura efficace è l'uso di sistemi di autenticazione multi-fattore. Questi sistemi richiedono più forme di verifica dell'identità, rendendo più difficile per gli attori malevoli manipolare gli agenti AI. Inoltre, le banche dovrebbero investire in tecnologie di sicurezza avanzate, come l'intelligenza artificiale stessa, per rilevare e prevenire attacchi informatici.

Infine, è fondamentale che le banche sviluppino protocolli chiari per la gestione degli errori. Questi protocolli dovrebbero includere procedure per la segnalazione e la risoluzione rapida degli errori, nonché meccanismi per compensare i clienti danneggiati. La trasparenza e la comunicazione aperta con i clienti sono essenziali per mantenere la fiducia nel sistema bancario.

Conclusione

L'uso di agenti AI nel settore bancario offre numerosi vantaggi, ma presenta anche significativi rischi. Le banche statunitensi stanno adottando misure per limitare l'accesso degli agenti AI ai conti correnti, ma è essenziale che continuino a sviluppare e implementare strategie per prevenire e gestire gli errori. La responsabilità in caso di errori è una questione complessa, ma con le giuste misure preventive, le banche possono ridurre i rischi e proteggere i loro clienti.