Gli episodi degli orrori generati da ChatGPT non si contano più. Dal mondo legale al quotidiano editoriale e aziendale, sempre più frequentemente si riferisce ad utilizzazioni superficiali e irresponsabili dell’intelligenza artificiale. Il tema non è nuovo, ma l’esplosione dei rischi è oggi più evidente che mai.

Avvocati che citano sentenze inesistenti. Redazioni che pubblicano articoli con citazioni inventate. Aziende che producono documenti con testi assolutamente senza senso. Il tutto ha un unico denominatore comune: la mancanza di una verifica umana rigorosa sui contenuti prodotti da sistemi generativi.

Un problema antico rinnovato

Questi rischi non nascono oggi. Hanno radici negli anni Novanta, con i primi studi sugli effetti psicologici della delega al computer. Il cosiddetto automation bias, o fiducia eccessiva nella capacità decisionale di un sistema automatico, è uno dei problemi fondamentali in questo senso.

Gli studi di Raja Parasuraman e Victor Riley nel 1997, e successivamente la ricerca pubblicata nel 2012 da Kate Goddard e colleghi, aveva individuato la tendenza a delegare decisioni e giudizi a sistemi automatizzati. Quando l’utente percepisce l’automazione come affidabile e si presenta sotto forma di linguaggio comprensibile e coerente, è forte la propensione a non verificare ulteriormente i contenuti.

Esempi emblematici nel diritto

Il settore legale è uno dei più colpiti. Il caso degli avvocati che citano erroneamente o inventano sentenze giurisprudenziali ha ormai una sua documentazione. Negli Stati Uniti, un giurista francese ha creato persino un database che cataloga circa 1.500 casi di utilizzo scorretto dell’AI.

In Italia anche qui il fenomeno non è estraneo. Il Tribunale di Firenze, nel marzo 2025, ha registrato un caso in cui un avvocato utilizzò riferimenti a sentenze fittizie o deformate grazie all’uso improprio del ChatGPT. Il Tribunale ha escluso in quel caso una responsabilità aggravata, ma ha ribadito che è necessario verificare la veridicità delle informazioni.

Il Tribunale di Torino, nel settembre 2025, e il Tribunale di Latina sono stati invece più rigorosi. I casi che hanno visto avvocati citare sentenze e norme non esistenti, non verificabili e astratte, sono sfociati in condanne per responsabilità aggravata.

Il Tribunale di Siracusa ne ha fornito una conferma nel febbraio 2026 con la sentenza n. 338 in cui ha qualificato come “colpa grave” l’uso non controllato dell’AI nell’elaborare citazioni giurisprudenziali inesistenti o comunque errate.

Quali sono le radici degli errori?

La radice di questo fenomeno non è soltanto umana, ma anche tecnica. I modelli linguistici, al momento, funzionano tramite algoritmi statistici: cercano di replicare il senso che la comunità umana ha costruito attorno alle parole, ma non verificano la veridicità di ciò che esprimono.

I modelli AI generano risposte probabilistiche, non certe. I riferimenti ai testi giuridici, ad esempio, non vengono controllati. Se l’informazione richiesta non è esistente nei dati di addestramento, l’algoritmo può generare testi plausibili ma assolutamente falsi. Il risultato è un mix di credibilità linguistica e errore concettuale.

Un problema istituzionale e di deontologia

I richiami istituzionali non sono rimasti a lungo fuori dal dibattito. Il Consiglio Superiore della Magistratura, con la sua delibera del 2025, ha chiesto una verifica sistematica di qualsiasi contenuto prodotto da IA, con particolare riguardo alla fonte e verificabilità.

Per gli avvocati, una guida pubblicata dal CCBE ha sottolineato in modo diretto i rischi. L’utilizzo dell’AI non esonera gli avvocati dall’obbligo di verifica, di riservatezza e di responsabilità deontologica.

Il mondo dell’informazione non è immune

Anche il settore dell’informazione non è immune da rischi correlati all'utilizzo dell’AI. Nei mesi recenti, sono circolati casi di sospensione o ammonizioni di giornalisti per aver pubblicato contenuti generati con l’AI senza controlli editoriali adeguati.

Esempi significativi nel mondo politico

Il mondo politico non è immune da errori. Il Regno Unito ha evidenziato casi in cui parlamentari utilizzarono ChatGPT per redigere o gestire la comunicazione con gli elettori. Questo tipo di pratica non solo mette a rischio la credibilità istituzionale, ma viola i principi di responsabilità politica.

Un problema nel settore aziendale

Non mancano esempi aziendali, soprattutto nel settore della comunicazione e della gestione interna. La società canadese Li-FT Power ha prodotto un documento pubblicato in forma ufficiale contenente una frase incoerente e inesplicabile: “You will change in share are all ejaculated out your helpful girlfriend issue she asked the councils responsible.”

La frase, probabilmente frutto di un errore nell’uso improprio di algoritmi di scrittura, ha rappresentato un chiaro esempio di come i processi umani di revisione non siano stati adatti a rivedere i dati generati.

Un meccanismo psicologico in gioco

Uno dei motivi principali che rende questi errori problematici è il cosiddetto automation bias. L’apparizione di testi grammaticali corretti e ben costruiti induce le persone a sovrastimare l’attendibilità del contenuto.

Questa tendenza umana di fidare maggiormente dell’output di software tecnologici, specialmente se formattati in modo elegante, si combina con l’incapacità di rivedere il testo per verificare il suo valore intrinseco.

Un richiamo all’uso consapevole

Gli errori evidenziati non debbono essere considerati unico limite tecnico, ma piuttosto la prova di una maturità dell’adoption AI ancora immatura.

Gli orrori di ChatGPT non si possono inquadrare solo come episodi isolati. Hanno una base più profonda, legata all’uso sconsiderato della tecnologia e all’inadeguatezza di controlli umani.

Per il futuro, è essenziale sviluppare una cultura dell’utilizzo consapevole e responsabile dell'intelligenza artificiale. Solo con un’attenta gestione, con verifica a priori e