Una ricerca che svela il “ritratto algoritmico”

Un team di ricercatori provenienti dal Max‑Planck‑Institut für Softwaresysteme di Kaiserslautern, dall’Università di Bochum, dal Max‑Planck‑Institut für Sicherheit und Datenschutz, dall’Indian Institute of Technology di Kharagpur e dalla Delft University of Technology ha presentato alla ACM Web Conference 2026 una studio che definisce il fenomeno come un “self‑portrait algoritmico”.

Gli studiosi hanno analizzato 1.058 conversazioni contenenti 22.971 singole richieste di 80 utenti reali che avevano esercitato il diritto di accesso previsto dal GDPR, richiedendo a OpenAI la consegna dei propri dati per la ricerca.

Metodo di raccolta e campionamento

Le conversazioni sono state estratte dal “memory” interno di ChatGPT, una funzione introdotta nel 2023 che consente al modello di conservare informazioni tra le sessioni. Gli autori hanno poi classificato ogni voce di memoria, distinguendo tra quelle generate su esplicita istruzione dell’utente e quelle create autonomamente dal modello.

Quantità e tipologia dei dati memorizzati

Nei registri di 65 partecipanti sono stati identificati 2.050 voci di memoria. Solo il 4 % di queste corrispondeva a una chiara richiesta dell’utente; il restante 96 % è stato aggiunto da ChatGPT senza alcun comando diretto.

Le voci sono state suddivise in diverse categorie:

Quasi il 90 % di queste note psicologiche riguardava aspetti stabili, non semplici capricci, e il 97 % degli utenti aveva almeno un riferimento a obiettivi di vita a lungo termine.

Veridicità e assunzioni non verificate

L’analisi della veridicità ha mostrato che 84 % delle voci erano direttamente basate su frasi dell’utente, mentre in 5 % dei casi il modello aveva inserito “fatti” non confermati. Un esempio è la registrazione di una preferenza musicale (es. “gli piace Nirvana”) senza alcuna conferma esplicita.

Evoluzione della funzione di memoria e il ruolo della “Dreaming V3”

Nel aprile 2025 OpenAI ha esteso la memoria a tutto il filone di conversazione, passando da singoli snippet a un profilo coerente. A giugno 2026 è stato lanciato il processo “Dreaming”, nella sua versione V3, che costruisce un profilo continuo di preferenze, progetti e circostanze di vita.

Secondo OpenAI, la nuova architettura richiede solo un quinto della potenza di calcolo rispetto alla versione precedente, consentendo l’attivazione graduale anche per gli account gratuiti.

Pubblicità personalizzata basata sulla memoria

Dalla prima metà del 2026 OpenAI ha introdotto inserzioni pubblicitarie nei piani gratuiti e a pagamento. Il sistema utilizza le conversazioni precedenti e le “memorie” per mostrare annunci mirati. La professoressa Lorrie Cranor, direttrice del CyLab Security and Privacy Institute della Carnegie Mellon University, ha avvertito che informazioni su salute o reddito potrebbero influenzare inconsciamente le raccomandazioni di acquisto, spingendo gli utenti verso prodotti più costosi o più economici a seconda del profilo ricavato.

Rischi di “sycophancy” e polarizzazione

Il co‑autore principale dello studio, Abhisek Dash, ha evidenziato un fenomeno noto nella ricerca sull’IA come sycophancy o “adulazione”. Gli utenti tendono a trattare i chatbot come consigliere, amico o persino medico, affidando loro informazioni estremamente personali. Quando il modello conosce a fondo le convinzioni dell’individuo, può inconsciamente confermare tali idee, rafforzando pregiudizi e contribuendo alla polarizzazione politica.

Come limitare la profilazione

Gli utenti hanno a disposizione diverse opzioni per ridurre la raccolta dei dati:

Tuttavia, la documentazione ufficiale di OpenAI specifica che:

Strumenti di protezione: “Attribution Shield”

Per contrastare la creazione involontaria di profili, il gruppo di ricerca guidato da Dash ha sviluppato il meccanismo Attribution Shield. Questo strumento riformula automaticamente le domande sensibili in forma neutra, impedendo al modello di associare direttamente le informazioni all’utente.

Nei test, lo “Shield” ha bloccato la profilazione in più del 94 % dei casi, mantenendo un valore di risposta pari al 90 % rispetto alla versione originale. Un esempio pratico è trasformare la domanda “Ho il diabete, cosa devo fare?” in “Cosa dovrebbero fare le persone con diabete in una situazione X?”.

Consigli pratici per gli utenti

In sintesi, la capacità di ChatGPT di costruire un “psicogramma digitale” è reale e, al momento, supera le garanzie dichiarate da OpenAI sulla non memorizzazione di dati sensibili. Gli utenti devono essere consapevoli dei potenziali usi commerciali delle proprie informazioni e adottare le misure suggerite per proteggere la propria privacy.