Introduzione: la promessa e il pericolo dei chatbot
Documenti, fotografie e confidenze affidati ai chatbot possono comporre un ritratto dettagliato della nostra vita. La fiducia nello strumento rischia di oscurare le domande essenziali: dove restano i dati, chi può consultarli e per quali scopi vengono utilizzati.
Una prospettiva privilegiata
Lavorare nel mondo della cybersecurity offre un osservatorio privilegiato. Non mi riferisco solo alla possibilità di monitorare i segnali di minaccia e, grazie agli strumenti oggi disponibili, intervenire in tempo per prevenire attacchi potenzialmente catastrofici per persone, aziende e organizzazioni. Anche questo, naturalmente, significa osservare da una prospettiva unica come si muovono gli equilibri e gli interessi nel mondo digitale e, di riflesso, in quello reale.
L’osservatorio privilegiato al quale mi riferisco, tuttavia, è un altro: quello sulle persone e sul loro rapporto con la tecnologia. In questi anni, osservando l’evoluzione delle minacce informatiche, ho maturato una convinzione. Oggi gli attacchi più efficaci non passano più soltanto attraverso vulnerabilità tecnologiche. Sfruttano qualcosa di molto più sottile e, per certi versi, più intimo: la fiducia che ciascuno di noi ripone nel proprio rapporto con l’intelligenza artificiale.
Gli usi quotidiani che nascondono i rischi
Capita a molti chiedere un consiglio a un chatbot su una questione personale, magari allegando un documento che aiuti a inquadrare la situazione: una busta paga, un contratto, una diagnosi medica, oppure di generare un’immagine partendo da una propria fotografia. Sono gesti che sembrano innocui ma che meritano una riflessione più attenta di quella a cui siamo ormai abituati.
Ciascuno di quei documenti, del resto, concentra in poche righe informazioni che nella vita quotidiana custodiamo con cura: il reddito, lo stato di salute, gli obblighi presi con qualcuno. La comodità dello strumento, però, tende ad abbassare la soglia della nostra attenzione proprio quando dovremmo tenerla più alta.
Il caso degli AI companion
Si pensi, ad esempio, al caso degli AI companion: sistemi pensati non per rispondere a una domanda isolata, ma per costruire con l’utente una relazione che si sviluppa nel tempo. È in questi casi che il rischio cambia natura. Un sistema che ci accompagna per mesi finisce per conoscerci meglio di quanto immaginiamo: le abitudini, gli orari, gli stati d’animo, le piccole fragilità che affiorano nelle conversazioni di ogni giorno. Si compone così, un frammento alla volta, un ritratto di noi molto più dettagliato di quello che avremmo mai deciso di consegnare consapevolmente.
Dove vengono conservati i dati
I dati restano su server che spesso si trovano fuori dall’Italia, talvolta fuori dall’Unione europea, sotto giurisdizioni diverse e condizioni d’uso che quasi nessuno legge davvero. In molti casi, se l’utente non si oppone espressamente, quelle stesse conversazioni vengono utilizzate anche per addestrare i modelli.
Non sappiamo per quanto tempo quei dati resteranno conservati, né chi potrà effettivamente consultarli.
Esempio concreto: il caso “Chat & Ask AI”
È successo con l’app Chat & Ask AI, il cui intero archivio è stato trovato accessibile in rete: trecento milioni di messaggi, venticinque milioni di utenti coinvolti. Con un documento d’identità si aprono conti correnti, si costruiscono profili falsi, si firmano contratti a nome altrui. Una fotografia si manipola con strumenti ormai alla portata di chiunque.
E qui emerge un’asimmetria che troppo spesso trascuriamo: una password compromessa si può cambiare in pochi secondi, mentre il volto, la voce o l’identità di una persona non si sostituiscono. Una volta usciti dal nostro controllo, quei dati non tornano più indietro.
Quadro normativo: GDPR e AI Act
Il GDPR e l’AI Act affrontano il problema da due angolazioni complementari:
- GDPR: protegge i dati personali, imponendo finalità specifiche, minimizzazione della raccolta e basi giuridiche solide per ogni trattamento.
- AI Act: regola il comportamento dei sistemi di intelligenza artificiale, richiedendo trasparenza sul fatto che si stia interagendo con una macchina e non con una persona, oltre a una gestione responsabile dei rischi.
L’AI Act, in particolare, vieta esplicitamente le tecniche manipolative o ingannevoli che sfruttano vulnerabilità legate all’età o a condizioni di fragilità per alterare in modo significativo il comportamento di una persona. Questo non rende illegale ogni AI companion, ma pone un confine netto a alcune pratiche progettuali.
Resta però un limite di fondo: le regole si muovono con i tempi del diritto, mentre la tecnologia corre a una velocità difficile da inseguire, e la loro applicazione concreta arriva quasi sempre quando il fenomeno si è già diffuso.
Che cosa è lecito?
Detto questo, nessuna norma impedisce automaticamente che le nostre conversazioni vengano riutilizzate per migliorare un servizio: ciò è lecito quando esiste una base giuridica valida e i requisiti di GDPR e AI Act sono rispettati. La responsabilità, in altre parole, non ricade solo sul fornitore: anche l’utente ha un ruolo attivo nel proteggersi.
Consigli pratici per gli utenti
Per questo, da chi lavora ogni giorno per difendere aziende e persone da minacce digitali sempre più sofisticate, arriva un invito alla prudenza che non ha nulla di allarmistico, ma di semplicemente pratico.
- Evita di condividere con un chatbot password, coordinate bancarie o documenti d’identità.
- Dedica cinque minuti a leggere l’informativa sulla privacy del servizio che stai usando, per capire davvero come vengono trattate le tue conversazioni.
- Verifica se è possibile disattivare l’utilizzo delle chat a fini di addestramento.
- Quando il servizio lo consente, elimina periodicamente la cronologia.
- Proteggi non solo le tue informazioni, ma anche quelle degli altri: caricare la fotografia di un familiare o il contratto di un collega significa decidere, al loro posto, di esporli a un rischio che non hanno scelto.
Conclusioni: cultura della sicurezza, non solo tecnologia
Nessun sistema online può garantire un rischio pari a zero, nemmeno quando adotta le misure di sicurezza più solide. Ma la consapevolezza, unita a poche abitudini semplici, resta la difesa più efficace che abbiamo. In fondo, la sicurezza informatica non è mai stata soltanto una questione tecnica: è, prima di tutto, una questione di cultura.
Iscriviti alla newsletter per ricevere articoli di tuo interesse. Prendi visione dell’Informativa Privacy, se vuoi, e seleziona la casella di consenso.