Il 2 aprile, l’Organizzazione Mondiale della Sanità (OMS) ha lanciato con grandi aspettative il suo nuovo chatbot, SARAH (Smart AI Resource Assistant for Health). Questo assistente virtuale, basato sulla tecnologia GPT-3.5, è stato progettato per offrire consigli sanitari in otto lingue diverse.
L’idea era quella di fornire un servizio accessibile e utile a milioni di persone in tutto il mondo, aiutandole a prendere decisioni informate sul proprio benessere. Tuttavia, quello che prometteva di essere uno strumento rivoluzionario divenne presto fonte di problemi.
Pochi giorni dopo la sua pubblicazione, SARAH è stata criticata per aver fornito informazioni errate. In un caso particolare, ha addirittura inventato nomi e indirizzi di cliniche inesistenti a San Francisco, che avrebbero potuto avere gravi conseguenze se non fossero stati scoperti in tempo.
Questo incidente è solo un altro nella crescente lista di fallimenti di chatbot basati sull’intelligenza artificiale. In passato, anche altri sistemi come Galactica di Meta e il chatbot di Air Canada hanno sofferto di problemi simili.
Ma perché succede questo? Perché queste intelligenze artificiali, progettate per aiutarci, finiscono per inventare risposte che non hanno alcun fondamento nella realtà?
Tutte le IA hanno allucinazioni
Quello che è successo a SARAH è un fenomeno noto come “allucinazione AI”. Nel campo dell’intelligenza artificiale, un’allucinazione si riferisce a una risposta generata dall’intelligenza artificiale che contiene informazioni false o fuorvianti presentate come fatti.
Sebbene in genere associamo la parola “allucinazione” alle esperienze umane, nel contesto dell’intelligenza artificiale è stata usata come analogia. La differenza fondamentale è che l’allucinazione di un’intelligenza artificiale è legata a risposte o convinzioni errate, piuttosto che a esperienze percettive o sensoriali.
Ad esempio, un chatbot basato su modelli linguistici di grandi dimensioni (LLM), come ChatGPT, può includere falsità casuali e dal suono plausibile all’interno di quello generato.
Secondo un recente studio condotto dai ricercatori della Cornell, tutti i modelli di intelligenza artificiale generativa lasciano a bocca aperta. Tuttavia, non tutti lo fanno allo stesso ritmo e la veridicità delle loro affermazioni dipende dalle fonti di informazione a cui sono stati esposti.
Lo studio ha valutato diversi modelli popolari, tra cui GPT-4o, Llama 3 70B, Mixtral 8x22B, tra gli altri. Sorprendentemente, anche i modelli più grandi e avanzati, come GPT-4o, generano testo privo di allucinazioni solo circa il 35% delle volte.
Come e perché si verificano le allucinazioni dell’IA?
Le allucinazioni si verificano quando un modello di intelligenza artificiale, come una rete neurale, produce risultati che non si riferiscono direttamente agli input forniti. Questi risultati possono essere modelli, oggetti o persino testo che non ci aspettavamo o che non hanno senso.
Le attuali IA (basate sull’architettura del trasformatore) sono soggette ad allucinazioni a causa del modo in cui apprendono dai dati. Durante l’addestramento, i modelli cercano di catturare modelli nei dati, ma a volte estrapolano o colmano le lacune in modo errato.
Questi sono alcuni fattori che possono contribuire alle allucinazioni:
- Errori nei dati di addestramento: Se i dati contengono errori o distorsioni, il modello può imparare a replicarli. Le allucinazioni possono sorgere quando il modello generalizza in modo errato partendo da esempi errati.
- Modelli molto complessi: Le reti neurali profonde hanno più parametri e quindi più opportunità di avere allucinazioni. La complessità aumenta la probabilità che il modello generi informazioni errate.
- Generalizzazione errata: I modelli possono apprendere modelli che non si applicano universalmente. Ciò può portare ad allucinazioni di fronte a situazioni insolite o al di fuori del loro ambito di allenamento.
- Overfitting: se un modello si adatta troppo ai dati di addestramento, potrebbe memorizzare esempi specifici, invece di apprendere concetti generali. Ciò può causare allucinazioni quando si incontrano nuovi dati.
Conseguenze delle allucinazioni
Le allucinazioni legate all’intelligenza artificiale possono avere gravi implicazioni, soprattutto in campi in cui la precisione è fondamentale, come la medicina. Nel caso di SARAH, la creazione di cliniche fittizie avrebbe potuto portare a decisioni sbagliate nella ricerca di cure mediche.
In altri casi, queste allucinazioni possono perpetuare pregiudizi e pregiudizi presenti nei dati di addestramento. Ad esempio, un modello potrebbe generare affermazioni discriminatorie o stereotipate, come è avvenuto a febbraio con la generazione di immagini in Google Gemini.
Infine, quando gli utenti si rendono conto che un modello di intelligenza artificiale è un’allucinazione, potrebbero perdere fiducia nella sua capacità di fornire risposte accurate.
Il problema di fondo è che, man mano che questi modelli diventano più sofisticati e le loro risposte più credibili, è più facile per gli utenti fidarsi ciecamente di loro.
Ciò può portare alla diffusione di informazioni false, come abbiamo già visto nel caso dei chatbot che inventano citazioni giudiziari o articoli scientifici.
Le allucinazioni dell’intelligenza artificiale sono utili?
Come abbiamo visto, le allucinazioni legate all’intelligenza artificiale sono spesso considerate un problema, ma hanno potenziali applicazioni anche in ambiti creativi ed esplorativi. Ad esempio, le capacità allucinatorie delle IA possono essere uno strumento prezioso nell’arte e nel design.
I modelli di intelligenza artificiale possono generare immagini che sfidano la logica e la realtà, aprendo nuove possibilità creative. Queste immagini possono ispirare artisti e designer a esplorare territori non convenzionali.
Se utilizzata per generare musica, l’IA allucinante può creare melodie originali e armonie insolite. Nell’industria cinematografica e dei videogiochi, le allucinazioni possono portare a effetti visivi sorprendenti e unici.
Potrebbero anche essere utili nella visualizzazione dei dati, dove la capacità dell’intelligenza artificiale di vedere connessioni non ovvie potrebbe fornire nuove informazioni.
Attenuare il problema delle allucinazioni
Per ridurre al minimo le allucinazioni, è possibile adottare diverse misure. Uno dei metodi fondamentali per ridurre le allucinazioni è addestrare modelli con set di dati ben strutturati, diversificati e di alta qualità.
Ciò include dati che riflettono un’ampia gamma di contesti e sono privi di pregiudizi che potrebbero portare il modello a generare risposte errate.
L’implementazione di vincoli che limitino la gamma di risposte possibili è un’altra tecnica efficace. Ciò può essere ottenuto utilizzando strumenti di filtraggio e definendo chiare soglie probabilistiche che il modello deve soddisfare prima di generare una risposta.
Puoi anche utilizzare la tecnica della “catena di pensiero” (Chain-of-Thought Prompting). Questa tecnica invita il modello a scomporre il suo ragionamento passo dopo passo, permettendogli di verificare la logica delle sue risposte mentre le genera.
Infine, e forse la cosa più importante; La supervisione umana rimane fondamentale per garantire l’accuratezza dei sistemi di intelligenza artificiale. Coinvolgere esperti umani per rivedere e convalidare i risultati del modello è l’ultima linea di difesa contro le allucinazioni.
Il caso di SARAH ci ricorda che, sebbene l’intelligenza artificiale abbia fatto enormi progressi, rimane imperfetta. Le allucinazioni dell’intelligenza artificiale non solo rivelano gli attuali limiti della tecnologia, ma sottolineano anche l’importanza di un approccio cauto e critico nella sua implementazione.
This post is also available in: