Un esperimento che mette in dubbio la fedeltà della memoria umana
Nel corso della primavera del 2026 la professoressa Pattie Maes, ricercatrice del MIT Media Lab, ha condotto uno studio in cui 200 partecipanti hanno osservato una serie di 24 fotografie. Le immagini raffiguravano situazioni quotidiane – matrimoni, scene di strada, gare sportive – e sono state poi utilizzate per verificare la capacità di ricordare i dettagli visuali.
Il campione è stato diviso in due gruppi. A una parte è stato mostrato nuovamente lo stesso set di foto, mentre all’altro gruppo è stata presentata una versione modificata dalle capacità di generazione di un’intelligenza artificiale. Le alterazioni comprendevano cambiamenti sottili, come la modifica delle espressioni facciali, l’inserimento di personale militare o l’aggiunta di elementi legati al cambiamento climatico.
Le modifiche apportate dall'IA
- Variazione delle espressioni dei volti per evocare emozioni diverse.
- Inserimento di figure in uniforme militare in contesti civili.
- Aggiunta di segnali ambientali (es. pannelli solari, turbine eoliche) per suggerire tematiche climatiche.
Tali manipolazioni, seppur apparentemente minori, hanno avuto un impatto significativo sulla capacità dei partecipanti di ricordare correttamente le immagini originali.
Il test di memoria e le conseguenze dei ricordi falsi
Dopo la visione delle fotografie, tutti i soggetti hanno dovuto completare un test di memoria, rispondendo a domande specifiche su dettagli presenti o assenti nelle immagini. I risultati hanno evidenziato una netta differenza: chi aveva visto le versioni alterate dall’IA ha prodotto un numero considerevolmente più alto di risposte errate rispetto al gruppo di controllo.
Ma non è tutto. Oltre a generare più errori, i partecipanti esposti alle foto manipolate hanno mostrato una maggiore fiducia nelle loro risposte, sostenendo con convinzione di ricordare dettagli che non erano mai stati presentati. Maes ha definito questo fenomeno “estremamente pericoloso”, soprattutto se considerato in ambiti sensibili come la giustizia e la stesura della storia.
Implicazioni per i processi giudiziari
Nel contesto legale, i giudici e le giurie si basano spesso sulle testimonianze oculari dei testimoni. Se le memorie possono essere alterate da immagini generate dall’IA, il rischio di condanne ingiuste aumenta drasticamente. Le testimonianze, già note per la loro vulnerabilità a distorsioni e suggestioni, potrebbero diventare ancora più inaffidabili quando gli investigatori o gli avvocati impiegano strumenti di intelligenza artificiale per “ricostruire” scene del crimine.
Maes ha sottolineato che la tecnologia, se usata senza adeguati controlli, potrebbe trasformare le prove visive in armi di manipolazione, minando la fiducia nel sistema giudiziario.
Rischi per la costruzione della storia
La memoria collettiva è alla base della narrazione storica. Se le immagini e i racconti del passato vengono filtrati o alterati da algoritmi, la percezione di eventi storici può deviare dalla realtà. Questo fenomeno non riguarda solo la documentazione di guerre o catastrofi, ma anche la rappresentazione di periodi più recenti, dove fotografie e video sono ampiamente condivisi sui social media.
Studi precedenti, citati nella stessa ricerca, hanno già mostrato che le testimonianze oculari possono essere distorte da semplici suggerimenti verbali. L’introduzione dell’IA aggiunge un nuovo livello di complessità, poiché le modifiche possono essere così sofisticate da passare inosservate anche a osservatori esperti.
Altri esperimenti correlati
- Un video su un crimine mostrato a un gruppo di partecipanti ha prodotto tre volte più ricordi falsi quando, successivamente, è stato interrogato un chatbot generativo.
- In una conferenza sull’IA a Malmö, Svezia, ricercatori hanno discusso come l’interazione tra intelligenza artificiale e memoria umana possa portare a una fusione dei confini tra pensiero autonomo e suggerimenti algoritmici.
Questi risultati indicano che la capacità dell’IA di influenzare la percezione umana non è limitata a immagini statiche, ma si estende a narrazioni audiovisive e a conversazioni testuali.
La fiducia eccessiva nell'IA: un avvertimento globale
Un’indagine pubblicata nella primavera del 2026 ha rivelato che le persone tendono a fidarsi troppo rapidamente delle risposte generate dall’intelligenza artificiale, sovrastimando la sua competenza anche quando il sistema è incerto o soggetto a errori. Questo fenomeno, noto come “overtrust”, è stato collegato direttamente al rischio di adottare informazioni false senza verifica critica.
Nel caso delle false memorie, l’effetto è amplificato: l’utente non solo accetta l’informazione errata, ma la integra nella propria esperienza personale, creando una “memoria falsa” che può persistere a lungo.
Strategie di mitigazione
- Educazione critica: insegnare al pubblico a valutare la fonte e a verificare le immagini attraverso metodi di fact‑checking.
- Trasparenza algoritmica: richiedere che i sistemi di IA segnalino quando un contenuto è stato generato o modificato.
- Regolamentazione legale: introdurre normative che vietino l’uso di IA per alterare prove visive in ambiti giudiziari.
In conclusione, l’esperimento di Pattie Maes mette in luce una vulnerabilità fondamentale della mente umana: la capacità di ricostruire ricordi a partire da stimoli visivi. Quando questi stimoli sono manipolati da intelligenze artificiali avanzate, la linea di demarcazione tra realtà e finzione si assottiglia, creando pericoli concreti per la giustizia, la storia e la società nel suo complesso.