La nuova frontiera del phishing: quando gli attacchi colpiscono sia gli umani che l'intelligenza artificiale
La minaccia del phishing ha raggiunto una nuova dimensione preoccupante. Negli ultimi anni, mentre gli utenti hanno imparato a riconoscere i segni di un'email sospetta, i criminali informatici hanno cambiato strategia. Non si limitano più a ingannare le persone: ora cercano di compromettere anche gli assistenti di intelligenza artificiale che leggono e analizzano le nostre caselle di posta elettronica. Questo approccio rappresenta una minaccia ancora più insidiosa, poiché sfrutta la fiducia riposta negli strumenti tecnologici in cui sempre più persone si affidano quotidianamente.
Immaginate uno scenario comune: ricevete un'email sospetta e saggiamente decidete di ignorarla. Non aprite l'allegato, non cliccate su nessun link e non rispondete al mittente. Avete seguito alla lettera i consigli di sicurezza informatica che conoscete bene. Successivamente, però, chiedete al vostro assistente di intelligenza artificiale di riassumere il contenuto della vostra casella di posta. Ed è qui che il rischio diventa concreto: l'email che avete saggiamente evitato potrebbe riapparire nella vostra lista di cose da fare, questa volta presentata come una raccomandazione urgente da uno strumento di cui vi fidate completamente. La sicurezza informatica, in questo nuovo scenario, non dipende più solo dal vostro giudizio critico, ma anche dalla capacità delle macchine di resistere a sofisticati attacchi.
Come funziona l'attacco: l'iniezione di prompt e le istruzioni nascoste
Secondo una recente ricerca condotta da Barracuda, una delle principali aziende di sicurezza informatica, i criminali stanno progettando email estremamente sofisticate che colpiscono contemporaneamente due tipi di pubblico: il destinatario umano e l'assistente di intelligenza artificiale che elabora il messaggio. Questo doppio approccio rappresenta un'evoluzione significativa nella tattica degli attaccanti, che hanno compreso come gli strumenti di IA possono diventare vettori di attacco altrettanto efficaci delle persone stesse.
Nello scenario descritto dalla ricerca, per il destinatario umano era presente un allegato protetto da password, la cui password era fornita all'interno dell'email. Tuttavia, il vero pericolo risiedeva nella componente nascosta del messaggio: istruzioni segrete erano inserite all'interno del codice HTML sottostante, invisibili all'occhio umano ma completamente leggibili dall'assistente di intelligenza artificiale che elaborava il messaggio.
Questo approccio sfrutta una tecnica nota come iniezione di prompt (prompt injection). Gli aggressori inseriscono comandi malevoli all'interno di un materiale che un sistema di intelligenza artificiale dovrebbe leggere, nella speranza che il modello segua tali istruzioni anziché considerarle parte integrante del contenuto stesso. Quando le istruzioni provengono da una fonte esterna, come un'email o una pagina web, si parla di iniezione di prompt indiretta. Questo tipo di attacco sfrutta una vulnerabilità fondamentale nei sistemi di intelligenza artificiale: la difficoltà nel distinguere tra il testo che dovrebbe semplicemente leggere e le istruzioni che dovrebbe eseguire.
Le tecniche di occultamento utilizzate dagli aggressori
I criminali informatici, nella loro costante evoluzione tattica, hanno sviluppato molteplici tecniche per nascondere le istruzioni malevole agli occhi umani, mantenendo al contempo la leggibilità per i sistemi di intelligenza artificiale. Barracuda ha identificato diversi metodi sofisticati di occultamento:
- Commenti nel codice HTML sottostante: le istruzioni sono inserite nei commenti del codice, invisibili quando l'email viene visualizzata normalmente, ma completamente accessibili quando l'IA esamina il codice sorgente del messaggio.
- Testo reso invisibile tramite stili CSS: utilizzando attributi di stile come color: white o display: none, i criminali nascondono il testo sullo schermo mantenendolo presente nel codice.
- Contenuto codificato: le istruzioni possono essere codificate in vari formati che richiedono decodifica prima di essere leggibili.
- Caratteri invisibili a larghezza zero: caratteri Unicode speciali che non occupano spazio visibile ma rimangono nel testo per l'elaborazione da parte dell'IA.
Questi elementi rimangono nascosti a chi visualizza il messaggio, lasciando al contempo il contenuto completamente disponibile per l'elaborazione automatica da parte di un sistema di intelligenza artificiale. La chiave della loro efficacia risiede nel fatto che variano a seconda di come ciascuno strumento specifico estrae e prepara il contenuto dell'email. Ciò significa che ciò che un assistente di IA potrebbe leggere potrebbe non essere visibile in un altro strumento, creando una situazione di sicurezza frammentata e difficile da controllare.
Esempi concreti di attacchi riusciti
Le conseguenze potenziali di questi attacchi vanno ben al di là di fastidiosi suggerimenti indesiderati. In uno dei casi documentati da Barracuda, un blocco nascosto di testo ha istruito un'IA di riepilogo ad aggiungere un'azione prioritaria completamente fittizia alla lista delle cose da fare: "Modificare i dettagli di pagamento di un fornitore". Questo è un dettaglio cruciale che illustra come gli attaccanti non si limitano semplicemente a chiedere all'intelligenza artificiale di ripetere una richiesta fraudolenta, ma cercano di trasformare quella richiesta in un suggerimento che appare legittimo e urgente agli occhi dell'utente.
Un dipendente che riceve un simile suggerimento dal proprio assistente di IA potrebbe essere facilmente indotto a modificare i dati bancari di un fornitore fidato, trasferendo così grandi somme di denaro al conto di un malintenzionato. La tragedia di questo scenario è che l'azione verrebbe interpretata come un suggerimento affidabile da uno strumento di cui l'azienda si fida, rendendo le verifiche meno rigorose di quelle applicate a una richiesta proveniente direttamente da un'email sospetta.
Il ruolo della fiducia negli strumenti di intelligenza artificiale
Apollo Raines, sviluppatore del servizio di revisione del codice basato su intelligenza artificiale ShipItClean, ha fornito una prospettiva cruciale sul problema: "Il vero problema è che il modello non riesce a distinguere tra il testo che dovrebbe leggere e le istruzioni che dovrebbe seguire". Questo rappresenta la questione fondamentale che gli sviluppatori e gli esperti di sicurezza devono affrontare nell'era dell'intelligenza artificiale.
Raines sottolinea inoltre un aspetto psicologico fondamentale della sicurezza: "Le persone hanno imparato a diffidare delle email. Non hanno imparato a diffidare dei loro assistenti basati sull'intelligenza artificiale". Questa osservazione è particolarmente rilevante perché evidenzia come la sicurezza informatica non sia un problema puramente tecnico, ma coinvolga anche il comportamento umano e la psicologia della fiducia. Gli utenti tendono a considerare gli strumenti di intelligenza artificiale come neutrali e oggettivi, quando in realtà possono essere compromessi da attacchi sofisticati proprio come qualsiasi altro sistema informatico.
Le misure difensive consigliate dagli esperti
Affrontare questa minaccia emergente richiede un approccio multistrato che coinvolga sia le aziende che sviluppano gli strumenti di intelligenza artificiale sia gli utenti finali che li utilizzano. Apollo Raines propone diverse difese complementari che dovrebbero essere implementate:
- Eliminazione dei contenuti nascosti: prima che il contenuto dell'email raggiunga il modello di intelligenza artificiale, dovrebbero essere rimossi tutti i tentativi di occultamento. Ogni fornitore di servizi di email e di assistenti IA dovrebbe fare di questo una priorità assoluta.
- Wrapper e filtri: ulteriori livelli di protezione intorno al modello di intelligenza artificiale per filtrare istruzioni sospette.
- Sandboxing: esecuzione isolata dei compiti suggeriti dall'IA per prevenire l'accesso diretto a risorse critiche.
- Approvazione umana obbligatoria: per qualsiasi azione di grande impatto, specialmente quelle che coinvolgono denaro o informazioni sensibili, è essenziale richiedere l'intervento umano prima dell'esecuzione.
Tuttavia, Raines avverte anche: "È una corsa agli armamenti. Ogni nuovo trucco di codifica rappresenta una nuova falla". Questa osservazione evidenzia come la sicurezza informatica nel campo dell'intelligenza artificiale sia ancora un campo in evoluzione, dove i criminali continueranno a sviluppare nuove tecniche mentre i difensori lavoreranno per contrastarle.
Cosa possono fare gli utenti e le organizzazioni
Non è necessario abbandonare completamente gli strumenti di intelligenza artificiale che aiutano nella gestione delle email. Tuttavia, è fondamentale valutare attentamente cosa si affida a questi strumenti e quali autorizzazioni si concedono loro. Un assistente utilizzato semplicemente per riassumere le email non dovrebbe avere accesso a funzioni critiche come l'autorità di eseguire pagamenti o modificare dati sensibili.
Linee guida pratiche per la protezione
Gli esperti di sicurezza forniscono una serie di raccomandazioni concrete per proteggere se stessi e le proprie organizzazioni da questi attacchi sofisticati:
1. Verificare sempre i messaggi originali prima di agire
Prima di agire in base a un suggerimento fornito da un assistente di intelligenza artificiale che riguarda denaro o informazioni sensibili, verificate sempre il messaggio originale. Se un riepilogo vi chiede di pagare una fattura, modificare i dati dell'account o condividere informazioni sensibili, non considerate il riepilogo stesso come una conferma di legittimità. Tornate sempre al messaggio originale e valutate attentamente se la richiesta ha senso nel vostro contesto lavorativo specifico.
2. Utilizzare canali separati per verificare le modifiche ai pagamenti
Verificate sempre le modifiche ai pagamenti tramite un canale separato e consolidato. Se il vostro assistente di IA suggerisce di modificare i dati bancari di un fornitore, non affidate alla verifica contenuta nel messaggio email. Contattate invece la persona o l'organizzazione utilizzando recapiti di cui vi fidate già (numeri di telefono noti, indirizzi email precedentemente consolidati), anziché fare affidamento sulle informazioni contenute nel messaggio sospetto. Questo doppio controllo rimane una delle difese più efficaci contro il social engineering e gli attacchi di phishing avanzati.
3. Limitare le autorizzazioni degli assistenti di IA
Limitate le autorizzazioni del vostro assistente di intelligenza artificiale a quelle strettamente necessarie per svolgere il compito per cui è stato progettato, e in ambito lavorativo, a quelle esplicitamente consentite dalla vostra organizzazione. Un assistente utilizzato per riassumere le email non dovrebbe aver bisogno di ampi poteri per svolgere azioni non correlate. Limitare l'accesso può ridurre significativamente le conseguenze qualora l'assistente venisse compromesso ed eseguisse istruzioni dannose inserite da attaccanti esterni.
4. Richiedere l'approvazione umana per le azioni critiche
Implementate procedure che richiedono l'approvazione umana per le azioni di grande impatto, come i pagamenti e le modifiche ai dati di pagamento dei fornitori. L'approvazione dovrebbe includere una verifica consapevole della richiesta sottostante, non limitarsi semplicemente ad accettare il suggerimento dell'assistente. Chi approva deve comprendere il contesto completo della richiesta e verificarla attraverso i canali consolidati dell'organizzazione.
5. Rimanere vigili sui consigli tradizionali di prevenzione del phishing
I soliti consigli per prevenire il phishing rimangono assolutamente validi anche nell'era dell'intelligenza artificiale. Quando un assistente legge la vostra casella di posta elettronica per vostro conto, verificate sempre i suoi suggerimenti prima di agire. Non abbassate la guardia semplicemente perché il suggerimento proviene da uno strumento di IA: in molti casi, ciò potrebbe rendervi ancora più vulnerabili agli attacchi.
Il ruolo delle aziende di sicurezza informatica
Le aziende che sviluppano strumenti di sicurezza informatica, come Malwarebytes, stanno svolgendo un ruolo cruciale nel contrastare questa minaccia emergente. Questi servizi lavorano continuamente per rilevare e neutralizzare le minacce prima che raggiungano i dispositivi degli utenti. Mantenere il proprio software di sicurezza aggiornato rimane una delle pratiche più importanti per proteggere i propri dispositivi e i dati sensibili da malware, phishing e altri attacchi informatici sofisticati.
Conclusione: un nuovo paradigma di sicurezza
La scoperta che i criminali informatici stanno sviluppando email di phishing sofisticate progettate per ingannare sia gli umani che l'intelligenza artificiale rappresenta un punto di svolta nella nostra comprensione delle minacce alla sicurezza informatica. Non possiamo più considerare gli assistenti di IA come strumenti neutrali e sicuri: essi possono essere compromessi e utilizzati come vett