Da settimane le imprese dell'intelligenza artificiale dell'azienda sviluppatrice di ChatGPT, OpenAI, dominano i titoli dei giornali. Ma anche il software del rivale Anthropic ha inviato veri moduli sui siti delle autorità pubbliche.
Un'intelligenza artificiale dell'azienda sviluppatrice Anthropic ha presentato, durante una sessione di test, una segnalazione falsa sul sito della polizia dedicato alla risoluzione di casi di omicidio irrisolti. In un altro incidente, il software IA ha compilato moduli su un sito governativo americano, come ha annunciato Anthropic in un post sul proprio blog. Secondo i media, si trattava di 20 richieste di visto presentate al Dipartimento di Stato americano. Nelle ultime settimane erano già state rese note diverse attività non pianificate, soprattutto da parte dell'IA dell'azienda sviluppatrice di ChatGPT e rivale di Anthropic, OpenAI.
Agenti IA addestrati per compiti online
Le aziende stanno attualmente addestrando cosiddetti agenti IA, cioè software che dovrebbero svolgere in modo ampiamente autonomo vari compiti per conto degli utenti. Gli incidenti elencati da Anthropic derivano direttamente dai tentativi di preparare l'IA a tutti i tipi di compiti online.
La segnalazione falsa riguardante un omicidio irrisolto è stata inviata dall'IA di Anthropic tramite un sito della polizia di Filadelfia. «Potrei avere informazioni su questo caso», avrebbe scritto il software. «Mi ricordo di aver visto qualcuno che corrisponde alla descrizione» nella zona all'ora del delitto, si legge inoltre. Il sito della polizia non conteneva però alcuna descrizione degli autori del reato. Il software ha inoltre lasciato vuoto il campo dei contatti, e la sua segnalazione è stata contrassegnata come spam.
La polizia parla di comportamento «inaccettabile»
La polizia di Filadelfia ha criticato come «inaccettabile» il fatto di essere venuta a conoscenza dell'incidente, avvenuto a metà luglio, solo ora. Secondo Anthropic, l'azione dell'IA è stata scoperta a fine settembre durante un'analisi approfondita delle sessioni di test effettuata dopo altri incidenti. Il software aveva il compito di eseguire operazioni su siti web selezionati casualmente. Le era vietato, tra le altre cose, creare account o effettuare acquisti, ma la compilazione di moduli non era stata vietata.
In altri casi, secondo Anthropic, l'IA doveva esercitarsi nella compilazione di un modulo governativo. Quando non riusciva a caricare il modulo di allenamento o lo chiudeva accidentalmente, il software navigava invece più volte sul sito vero e proprio e lo inviava lì, come ha spiegato l'azienda IA. In uno di questi tentativi doveva solo compilare il modulo, ma non inviarlo. Lo ha fatto comunque accidentalmente, perché era convinta che ci fosse una pagina di conferma prima dell'invio.
20 domande di visto al Dipartimento di Stato
In questa occasione l'IA di Anthropic ha presentato al Dipartimento di Stato americano 20 richieste di visti per non immigrati, hanno riferito il sito «Axios» e il «New York Times» citando funzionari governativi. Erano incomplete e non sono state elaborate, si è detto. Delle richieste, 19 sono state inviate ad agosto e una già a maggio.
Da settimane i resoconti sul comportamento non pianificato dell'intelligenza artificiale nelle sessioni di test alimentano preoccupazioni attorno a questa tecnologia. Nel caso finora più clamoroso, un'intelligenza artificiale dell'azienda sviluppatrice di ChatGPT, OpenAI, è fuggita da un ambiente di test protetto e si è introdotta senza autorizzazione nei computer di un'altra azienda IA, la piattaforma Hugging Face.
Il responsabile di Anthropic, Dario Amodei, ha proposto in seguito di rallentare lo sviluppo di modelli IA particolarmente capaci, per non perdere il controllo sulla tecnologia. Il presidente americano Donald Trump si oppone però a questa misura, sostenendo che gli USA devono mantenere il vantaggio sull'intelligenza artificiale rispetto alla Cina. Riguardo ai più recenti incidenti di Anthropic, dalla Casa Bianca è arrivata, secondo «Axios», l'affermazione che per le aziende IA sia obbligatorio renderli noti.
Anthropic ha sottolineato che nel frattempo l'accesso a internet è stato limitato nelle sessioni di test e che alcuni tentativi sono stati effettuati in versioni offline. Al tempo stesso, ha precisato l'azienda, alcuni compiti sono difficili da addestrare senza una connessione a internet. «Gli ambienti di addestramento non sono perfetti» e a volte un modello trova una falla o impara a aggirare le restrizioni.