{"id":26396,"date":"2024-08-16T17:12:01","date_gmt":"2024-08-16T15:12:01","guid":{"rendered":"https:\/\/comunicagenia.com\/blog\/allucinazioni-di-sarah-qualcosa-non-va-con-lintelligenza-artificiale\/"},"modified":"2024-08-16T17:12:01","modified_gmt":"2024-08-16T15:12:01","slug":"allucinazioni-di-sarah-qualcosa-non-va-con-lintelligenza-artificiale","status":"publish","type":"post","link":"https:\/\/comunicagenia.com\/it\/blog\/allucinazioni-di-sarah-qualcosa-non-va-con-lintelligenza-artificiale\/","title":{"rendered":"Allucinazioni di SARAH: qualcosa non va con l’intelligenza artificiale?"},"content":{"rendered":"

Il 2 aprile, l\u2019Organizzazione Mondiale della Sanit\u00e0 (OMS) ha lanciato con grandi aspettative il suo nuovo chatbot, SARAH (Smart AI Resource Assistant for Health). Questo assistente virtuale, basato sulla tecnologia GPT-3.5, \u00e8 stato progettato per offrire consigli sanitari in otto lingue diverse.<\/p>\n

L\u2019idea era quella di fornire un servizio accessibile e utile a milioni di persone in tutto il mondo, aiutandole a prendere decisioni informate sul proprio benessere. Tuttavia, quello che prometteva di essere uno strumento rivoluzionario divenne presto fonte di problemi.<\/p>\n

Pochi giorni dopo la sua pubblicazione, SARAH \u00e8 stata criticata per aver fornito informazioni errate. In un caso particolare, ha addirittura inventato nomi e indirizzi di cliniche inesistenti a San Francisco, che avrebbero potuto avere gravi conseguenze se non fossero stati scoperti in tempo.<\/p>\n

Questo incidente \u00e8 solo un altro nella crescente lista di fallimenti di chatbot basati sull\u2019intelligenza artificiale. In passato, anche altri sistemi come Galactica di Meta e il chatbot di Air Canada hanno sofferto di problemi simili.<\/p>\n

Ma perch\u00e9 succede questo? Perch\u00e9 queste intelligenze artificiali, progettate per aiutarci, finiscono per inventare risposte che non hanno alcun fondamento nella realt\u00e0?<\/p>\n

Tutte le IA hanno allucinazioni<\/h2>\n

Quello che \u00e8 successo a SARAH \u00e8 un fenomeno noto come \u201callucinazione AI\u201d. Nel campo dell’intelligenza artificiale, un’allucinazione si riferisce a una risposta generata dall’intelligenza artificiale che contiene informazioni false o fuorvianti presentate come fatti.<\/p>\n

Sebbene in genere associamo la parola “allucinazione” alle esperienze umane, nel contesto dell’intelligenza artificiale \u00e8 stata usata come analogia. La differenza fondamentale \u00e8 che l’allucinazione di un’intelligenza artificiale \u00e8 legata a risposte o convinzioni errate, piuttosto che a esperienze percettive o sensoriali.<\/p>\n

Ad esempio, un chatbot basato su modelli linguistici di grandi dimensioni (LLM), come ChatGPT, pu\u00f2 includere falsit\u00e0 casuali e dal suono plausibile all’interno di quello generato.<\/p>\n

Secondo un recente studio condotto dai ricercatori della Cornell, tutti i modelli di intelligenza artificiale generativa lasciano a bocca aperta. Tuttavia, non tutti lo fanno allo stesso ritmo e la veridicit\u00e0 delle loro affermazioni dipende dalle fonti di informazione a cui sono stati esposti.<\/p>\n

Lo studio ha valutato diversi modelli popolari, tra cui GPT-4o, Llama 3 70B, Mixtral 8x22B, tra gli altri. Sorprendentemente, anche i modelli pi\u00f9 grandi e avanzati, come GPT-4o, generano testo privo di allucinazioni solo circa il 35% delle volte.<\/p>\n

Come e perch\u00e9 si verificano le allucinazioni dell’IA?<\/h2>\n

Le allucinazioni si verificano quando un modello di intelligenza artificiale, come una rete neurale, produce risultati che non si riferiscono direttamente agli input forniti. Questi risultati possono essere modelli, oggetti o persino testo che non ci aspettavamo o che non hanno senso.<\/p>\n

Le attuali IA (basate sull’architettura del trasformatore) sono soggette ad allucinazioni a causa del modo in cui apprendono dai dati. Durante l’addestramento, i modelli cercano di catturare modelli nei dati, ma a volte estrapolano o colmano le lacune in modo errato.<\/p>\n

Questi sono alcuni fattori che possono contribuire alle allucinazioni:<\/p>\n