OpenAI ha annunciato il 5 ottobre 2026 l'aggiunta di un filigrana invisibile, chiamato textGrain, ai testi generati da ChatGPT e Codex nell'Unione europea. Questa misura risponde alle richieste del AI Act, che impone ai fornitori di IA generativa di rendere i testi identificabili da una macchina. OpenAI riconosce tuttavia i limiti della tecnologia: la detezione è meno efficace su testi corti o modificati, e il rilevatore non sarà pubblico.
Cosa dice OpenAI
OpenAI ha pubblicato un articolo sul proprio blog intitolato « Our approach to EU text provenance rules », in cui spiega come intende rispondere alle richieste del AI Act. Il regolamento europeo sull'intelligenza artificiale richiede ai fornitori di IA generativa di rendere i testi generati identificabili in modo leggibile da una macchina.
Tre passaggi principali
Il piano di OpenAI si articola in tre passaggi:
- ChatGPT e Codex: un filigrana invisibile sarà aggiunto "nelle prossime settimane" alle risposte testuali elegibili per tutti gli utenti dell'Unione europea.
- API: dal 5 ottobre, i clienti di tutto il mondo possono attivare il filigrana su alcuni modelli. Rimane disattivato per impostazione predefinita.
- Rilevatore: le candidature sono aperte, ma l'accesso sarà riservato a ricercatori e organizzazioni esperte approvate.
Come funziona textGrain
Il filigrana textGrain non è visibile alla lettura. OpenAI spiega di aggiungere un segnale statistico invisibile nelle scelte delle parole del modello. Il rilevatore cerca poi questo segnale per stimare se un passaggio contiene un filigrana OpenAI.
Prestazioni e limiti
OpenAI afferma che non ci sono differenze significative tra testi con e senza filigrana. Tuttavia, i test mostrano che la detezione è meno efficace su testi corti o modificati. Ad esempio, sostituire il 25% delle parole in un passaggio di 400 token riduce il tasso di detezione dal 92% al 17%.
Cosa non prova il filigrana
OpenAI sottolinea che il filigrana non prova:
- La presenza di contributi umani.
- La proprietà o la responsabilità del testo.
- L'identità dell'autore.
- L'esattezza del contenuto.
- L'assenza di filigrana non prova che il testo sia stato scritto da un umano.
Conclusione
Il filigrana textGrain è un passo importante per OpenAI nel rispetto del AI Act. Tuttavia, i suoi limiti rendono necessaria una gestione attenta e una verifica da parte di esperti. La tecnologia continuerà a evolversi, con l'obiettivo di migliorare la detezione e l'affidabilità del sistema.