Il paradosso del revisore: più l’AI migliora, meno la controlliamo

Introduzione: un nuovo paradigma aziendale

L’AI riduce drasticamente il tempo necessario per produrre bozze, report e analisi, ma concentra il carico di lavoro su chi deve verificarle. In passato la domanda sulle tecnologie emergenti era «serve a qualcosa?», poi è passata a «quanto tempo risparmia?», e oggi si chiede «cosa succede alle persone che la usano otto ore al giorno?». La risposta non è semplice: se il lavoro cognitivo cambia, anche ruoli, criteri di valutazione e percorsi formativi devono adeguarsi, così come il modo in cui gli sviluppatori progettano gli strumenti.

Osserviamo questa trasformazione da più prospettive professionali, ma connesse: consulenti del cambiamento, executive coach, e ricercatori che studiano l’impatto dell’AI sul mercato del lavoro. Dalla sintesi di dati e dalla constatazione di ciò che accade nella pratica quotidiana nasce questo articolo, scritto a quattro mani con opinioni distinte ma complementari.

Il divario tra esposizione teorica e adozione reale

Secondo il lavoro di Anthropics sugli impatti dell’AI sul mercato del lavoro, per le professioni informatiche e matematiche l’esposizione teorica arriva al 94%, mentre la copertura osservata nell’uso reale si ferma al 33%. Questo divario di sessanta punti non è solo una pausa temporanea in attesa dell’inevitabile; è lo spazio in cui si concentrano decisioni cruciali: quali attività delegare, quali mantenere, quali controlli introdurre e quali competenze le persone desiderano conservare.

Chi costruisce gli strumenti è particolarmente interessante perché li sperimenta per primo. Quello che succede oggi a chi sviluppa software anticipa, almeno in parte, quello che potrà verificarsi in altri settori, riflettendosi poi negli strumenti che tutti gli altri utilizzeranno.

Rischi cognitivi legati all’uso dell’AI

Una ricerca del MIT Media Lab ha coinvolto 54 partecipanti impegnati a scrivere saggi in tre modalità: con un assistente conversazionale, con un motore di ricerca, e senza supporti. I risultati mostrano che chi ha utilizzato l’AI ha registrato il livello di connettività cerebrale più debole tra i tre gruppi e, al termine della sessione, l’83% dei partecipanti non era in grado di citare una singola riga del testo prodotto. Gli autori hanno coniato il concetto di debito cognitivo.

• Il campione era limitato e i dati provengono da un preprint non ancora sottoposto a revisione paritaria.
• La riduzione della connettività cerebrale si riferisce allo stato momentaneo durante il compito, non a una caratteristica permanente.
• Il compito svolto con l’AI richiede un minore impegno cognitivo rispetto a metodi tradizionali.

Una seconda indagine, condotta da Microsoft Research insieme alla Carnegie Mellon University e presentata a CHI 2025, ha coinvolto 319 professionisti in 936 casi d’uso reali. I risultati principali sono:

• Chi ha più fiducia nell’intelligenza artificiale applica meno pensiero critico.
• Chi ha più fiducia nelle proprie competenze ne applica di più.

Questi dati spostano l’attenzione dalla sola competenza tecnica al rapporto personale con le proprie capacità, influenzato da fattori come la percezione di minaccia, la pressione temporale e il bisogno di risposte immediate.

Impatto sull’impegno cognitivo e sul processo di verifica

Lo stesso studio Microsoft mostra che chi utilizza l’AI riferisce uno sforzo cognitivo inferiore in quasi tutte le attività professionali: comprendere, applicare, analizzare, sintetizzare. Tuttavia, il lavoro non scompare: si sposta sulla verifica dell’output, sulla sua integrazione nel contesto e sul monitoraggio dei risultati.

Questo fenomeno non è nuovo. Nel 2010 Raja Parasuraman e Dietrich Manzey pubblicarono su Human Factors una sintesi degli studi su automation bias e automation complacency, analizzando cosa accade quando una persona deve sorvegliare un sistema automatico affidabile.

• Chi si fida di un sistema affidabile smette di verificarlo accuratamente, spesso senza rendersene conto.
• Il fenomeno colpisce sia principianti sia esperti e non si risolve con la pratica.
• La formazione o le istruzioni verbali (“controllate”) non migliorano i controlli; è necessario modificare le condizioni operative.
• Il rischio aumenta quando la sorveglianza compete per l’attenzione con altre attività, tipico della frenesia aziendale.

Il paradosso del collo di bottiglia

Nel lavoro quotidiano vivo questo spostamento. Prima, affidando un compito a un collega inesperto, passavano da una a due ore prima di rivedere qualcosa. Quel tempo non era solo attesa: era il ritmo con cui il lavoro tornava indietro, permettendo di gestire una cosa alla volta. Oggi, una bozza di presentazione o una relazione può arrivare in cinque minuti, o anche meno.

Il nuovo collo di bottiglia è dunque la verifica dell’output. Man mano che gli strumenti migliorano, il paradosso si accentua: meno errori, meno interazioni necessarie per ciascun compito, più fronti che possiamo aprire contemporaneamente.

Condizioni emotive e carico di verifica

La verifica raramente avviene in condizioni emotivamente neutre. Chi controlla può essere lucido e tranquillo, ma anche sotto pressione, stanco, preoccupato di non stare al passo. Il contesto emotivo influisce sul livello di attenzione disponibile per rilevare errori.

Più lo strumento diventa affidabile, più attività gli affidiamo; più gestiamo compiti contemporaneamente, meno attenzione rimane per accorgersi di eventuali difetti. È l’esatto opposto della credenza popolare: «quando sarà più preciso, il problema si risolverà da solo».

Reazioni umane alla crescente affidabilità

Quando studio l’adozione dell’AI, incontro una vasta gamma di reazioni. La stessa tecnologia può generare curiosità in una persona e senso di minaccia in un’altra. Persino la stessa persona può rispondere diversamente a seconda del momento, delle proprie condizioni e delle caratteristiche del lavoro.

Il Sistema Nervoso Autonomico valuta la situazione: se percepisce sicurezza, attiva risorse come curiosità, capacità critica e collaborazione. Se percepisce minaccia, aumentano urgenza e ricerca di scorciatoie. In stato di blocco causato dalla paura, può emergere la tendenza a delegare senza approfondire, pensando «se lo dice l’AI sarà giusto», «se funziona non serve capire», «se faccio domande sembrerò incompetente», o «il mio ruolo diventerà obsoleto».

Strategie per mitigare il paradosso

Affrontare il problema richiede interventi su più livelli:

• Ridefinizione dei processi: inserire checkpoint di verifica con tempi dedicati, evitando la sovrapposizione di attività.
• Design degli strumenti: implementare meccanismi di feedback che richiedano esplicite conferme da parte dell’utente, non solo un click.
• Formazione mirata: non solo insegnare l’uso dell’AI, ma allenare il pensiero critico e la consapevolezza dei bias di automazione.
• Cultura della responsabilità: promuovere un ambiente in cui la verifica è vista come parte integrante del valore professionale, non come “un compito noioso”.
• Monitoraggio del carico cognitivo: utilizzare metriche di stress e attenzione per assicurare che chi verifica non sia sovraccaricato.

Conclusioni: un futuro di equilibrio tra AI e controcontrollo

Il paradosso del revisore è inevitabile finché l’AI continuerà a migliorare. La sfida non è fermare l’adozione, ma costruire sistemi, processi e culture organizzative che bilancino l’efficienza dell’automazione con la necessità di supervisione umana critica. Solo così potremo sfruttare il potenziale dell’AI senza perdere autonomia, capacità di apprendimento e qualità decisionale nelle organizzazioni moderne.