Il mal di pancia, il prurigo in gola, il mal di testa. Molti persone si rivolgono a chatbot di intelligenza artificiale con这类i disturbi. A differenza del medico, i modelli linguistici sono disponibili 24 ore su 24 e offrono consigli. Attualmente, i ricercatori pubblicano sulla rivista Nature Health un articolo che mette in guardia sul fatto che i consigli sanitari forniti dai chatbot possono diventare pericolosi. Quando un bot fornisce cattivi consigli sanitari, può danneggiare le persone.
Il Progetto di Marburg: KI per la Depressione
Nel contesto della salute mentale, un progetto di ricerca a Marburg sta esplorando nuove metodologie di trattamento per la depressione utilizzando l'intelligenza artificiale. Il progetto MindShift sviluppa nuovi approcci terapeutici per quei pazienti per cui i metodi di trattamento classici non hanno prodotto risultati positivi. L'obiettivo è utilizzare l'IA per modificare i modi di pensare depressivi, aprendo così nuove strade per la cura di questa condizione complessa.
I Pericoli dei Chatbot Sanitari
I chatbot possono generare risposte erroneamente sicure di sé, semplificare eccessivamente le informazioni o fare riferimento a dati obsoleti o a false affermazioni. "Riceviamo consigli medici da questi chatbot, ma nessuno - letteralmente nessuno - li controlla. Se c'è un errore o un problema, non c'è semplicemente alcun modo per le persone accorgersene", afferma Kaicheng Yang, professore assistente alla Binghamton University e uno degli autori dell'articolo.
Un Caso Preoccupante: L'Errore di ChatGPT
I ricercatori citano il caso di un uomo di 60 anni che voleva eliminare il sale dalla sua alimentazione dopo aver letto degli effetti negativi di un'eccessiva assunzione di sale. ChatGPT gli ha consigliato di sostituire il sale da cucina (cloruro di sodio) con bromuro di sodio. Dal punto di vista chimico, le due sostanze sono piuttosto simili e in certi contesti possono essere utilizzabili in modo intercambiabile. Nell'alimentazione, tuttavia, questa sostituzione è pericolosa. Per tre mesi, l'uomo ha assunto bromuro di sodio finché non è finito in pronto soccorso con sintomi psichiatrici. Solo per fortuna i medici sono riusciti a scoprire cosa era successo.
La Mancanza di Controlli e la Diffusione delle Informazioni Errate
Non esiste alcun sistema di trasparenza che controlli quali informazioni sanitarie un sistema di IA fornisca alle persone. "I danni non solo sono possibili, ma sono strutturalmente nascosti ai clinici, ai ricercatori e alle autorità di regolamentazione che altrimenti li riconoscerebbero e correggerebbero", affermano gli autori. Con la diffusione di riassunti di IA nei motori di ricerca come Google o con l'integrazione di IA nei social media, anche le persone che non interagiscono attivamente con un chatbot per problemi di salute possono venire a contatto con consigli e informazioni errate.
Soluzioni Proposte dai Ricercatori
I ricercatori individuano qui un grande pericolo. Propongono che le aziende di IA consentino innanzitutto agli utenti di inoltrare le conversazioni sanitarie con un chatbot ai medici e alle cliniche. Inoltre, raccomandano lo sviluppo di un sistema di divulgazione che permetta di etichettare, segnalare e verificare le informazioni sanitarie errate. In questo modo si potrebbe almeno evitare che un modello linguistico fornisca consigli sanitari errati per molti anni.
Inoltre, i ricercatori sostengono che le aziende dei social media dovrebbero assumersi maggiori responsabilità, contrassegnando i contenuti sanitari generati da IA e trattenendo questi contenuti finché le autorità mediche potranno verificarli. Poiché le aziende di IA perseguono principalmente interessi monetari, nel delicato settore della sanità è necessario un sistema di sorveglianza di terze parti, concludono i ricercatori.
L'Impatto Ambientale dell'IA
Oltre ai rischi per la salute umana, i chatbot di IA consumano molte risorse. Un recente rapporto delle Nazioni Unite si è occupato dell'impronta ecologica dell'IA, sebbene la sua metodologia sia stata criticata da esperti del settore. Questo aspetto sottolinea che la diffusione della tecnologia AI comporta non solo rischi per gli individui, ma anche considerevoli implicazioni ambienti che meritano attenzione.