Nel campo dell’intelligenza artificiale (AI), il termine allucinazioni viene utilizzato per descrivere situazioni in cui i modelli linguistici generano informazioni errate o fittizie, ma le presentano come se fossero vere.
Questo fenomeno rappresenta una sfida cruciale, soprattutto quando l’IA viene applicata in settori sensibili come la medicina, il diritto o l’istruzione.
In questo contesto, Dario Amodei, amministratore delegato di Anthropic, ha rilasciato dichiarazioni che hanno generato dibattito nel settore. Durante l’evento Code with Claude, Amodei ha affermato che i modelli di intelligenza artificiale “probabilmente hanno meno allucinazioni degli esseri umani, ma lo fanno in modi più sorprendenti”.
Esploriamo nel dettaglio le sue dichiarazioni e gli interessanti risvolti che ciò può avere.
##Cosa ha detto esattamente Dario Amodei?
Durante l’evento Code with Claude, ospitato da Anthropic a San Francisco, Dario Amodei ha risposto a una domanda sulle allucinazioni nei modelli linguistici.
Durante la risposta, il manager ha affermato: “I modelli di intelligenza artificiale probabilmente hanno meno allucinazioni degli esseri umani, ma lo fanno in modi più sorprendenti”. Questa affermazione, che mette a confronto direttamente le prestazioni delle macchine con quelle delle persone, non è passata inosservata e ha suscitato interesse e scetticismo.
Amodei ha legato questa idea anche alla sua visione per il futuro dell’IA. Ha ribadito la sua previsione secondo cui l’AGI potrebbe essere raggiunta nel 2026, sulla base di un documento pubblicato l’anno precedente.
Ha usato una metafora significativa: “L’acqua sta aumentando ovunque”, suggerendo che i progressi tecnologici si stanno verificando ampiamente e rapidamente. La dichiarazione di Amodei riflette una grande fiducia nella capacità dell’intelligenza artificiale di superare i suoi attuali limiti, inclusa la propensione alle allucinazioni.
Cosa sono le allucinazioni nell’intelligenza artificiale?
Le allucinazioni nei modelli linguistici sorgono quando un’intelligenza artificiale genera risposte che sembrano plausibili ma sono errate, fittizie o prive di fondamento nella realtà. Ad esempio potresti inventare riferimenti bibliografici, eventi storici inesistenti o spiegazioni tecniche errate.
Un caso recente illustra la gravità del problema: un avvocato di Anthropic ha dovuto scusarsi in tribunale dopo aver presentato una falsa citazione legale generata dal modello dell’azienda, Claude, che includeva nomi inventati e riferimenti legali.
Le cause delle allucinazioni sono molteplici. Questi includono distorsioni o errori nei dati di addestramento, la mancanza di contesto specifico e i limiti dell’architettura del modello.
Nonostante siano stati compiuti importanti progressi, le allucinazioni continuano a rappresentare una sfida, soprattutto in contesti in cui la precisione è essenziale.
Gli esseri umani o l’intelligenza artificiale hanno più allucinazioni?
Per valutare l’affermazione di Amodei, vale la pena analizzare gli studi che confrontano le prestazioni dell’intelligenza artificiale con quelle degli esseri umani. In ambito sanitario, ad esempio, l’intelligenza artificiale ha dimostrato una grande precisione.
Una meta-analisi del 2014 ha stabilito che circa il 5,08% dei pazienti di assistenza primaria negli Stati Uniti riceve una diagnosi errata (PMC). Al contrario, alcuni modelli di intelligenza artificiale hanno raggiunto un’accuratezza del 95% nelle diagnosi correlate al diabete.
Tuttavia, in attività come la generazione di riferimenti bibliografici, gli errori sono frequenti. Uno studio pubblicato su JMIR ha riportato che modelli come ChatGPT-3.5 e 4 commettono errori nel 29%-40% delle citazioni.
Nel giornalismo, uno studio del 2005 ha rilevato che il 61% delle notizie sui giornali americani contenevano errori di fatto, con una media di tre errori per articolo errato.
Questi errori umani sono spesso dovuti a disattenzione o incomprensioni, mentre i modelli di intelligenza artificiale possono generare complete falsità con apparente sicurezza.
In breve, sebbene l’intelligenza artificiale superi gli esseri umani in alcuni contesti, l’affermazione di Amodei non può essere considerata universalmente vera. La mancanza di studi comparativi diretti tra allucinazioni umane e artificiali lascia aperta la questione.
Opinioni divergenti tra gli esperti
Le parole di Amodei hanno suscitato reazioni diverse tra gli operatori del settore. Alcuni condividono il suo ottimismo. Secondo UX Tigers, i modelli di intelligenza artificiale più avanzati mostrano tassi di allucinazioni inferiori grazie a tecniche di addestramento più raffinate.
Tuttavia, altri non sono d’accordo. Demis Hassabis, CEO di Google DeepMind, ha avvertito che i modelli attuali presentano lacune importanti e falliscono anche su questioni basilari.
Inoltre, nel maggio 2025 New Scientist ha pubblicato un rapporto in cui avverte che le allucinazioni stanno peggiorando in alcuni modelli recenti progettati per compiti di ragionamento complessi.
Progressi nella riduzione delle allucinazioni
Per affrontare questo problema, la comunità tecnologica ha sviluppato varie strategie. Uno dei più notevoli è Retrieval Augmented Generation (RAG), che consente ai modelli di consultare fonti esterne durante la generazione della risposta.
Uno studio di Stanford pubblicato nel 2024 ha dimostrato che questa tecnica, combinata con altre, riduceva le allucinazioni del 96%.
Vengono utilizzati anche metodi come l’apprendimento per rinforzo con feedback umano (RLHF), che addestra i modelli a dare priorità alle risposte più veritiere.
I grafici della conoscenza (KG) forniscono un contesto strutturato che riduce gli errori, mentre tecniche come la catena di pensiero** (CoT) favoriscono il ragionamento passo passo che migliora la trasparenza del modello.
Un’altra strategia emergente è quella di addestrare i modelli a riconoscere i propri limiti ed essere in grado di rispondere “Non lo so” piuttosto che inventare una risposta. Questo approccio aiuta a ridurre la diffusione della disinformazione (Forbes).
Tuttavia, la soluzione definitiva dipende ancora dal contesto di utilizzo e dal grado di verifica esterna disponibile.
Nessun consenso scientifico
Le opinioni nel settore sono varie e i progressi tecnici, sebbene promettenti, non risolvono completamente il problema. Di conseguenza, è necessario un approccio rigoroso, interdisciplinare e critico per garantire che l’intelligenza artificiale non sia solo potente, ma anche affidabile.
Mentre ci avviciniamo al possibile sviluppo dell’AGI, il controllo delle allucinazioni sarà fondamentale per creare fiducia nella tecnologia e garantire la sua integrazione responsabile nella società.
This post is also available in: