Google, una delle aziende tecnologiche più influenti al mondo, ha recentemente lanciato la sua nuova funzionalità AI, nota come “Panoramiche AI”.
Questo lancio, per ora solo negli Stati Uniti, sembrava destinato a migliorare l’esperienza di ricerca degli utenti fornendo risposte rapide e precise a domande complesse. Tuttavia, ha dovuto affrontare una serie di seri problemi.
Nonostante le grandi aspettative, la realtà è stata leggermente diversa, con numerosi casi di risposte imprecise, fuorvianti e persino pericolose emerse durante la sua attuazione.
Questi errori, noti come “allucinazioni dell’intelligenza artificiale”, hanno sollevato notevoli preoccupazioni sull’affidabilità e sulla sicurezza di questa tecnologia emergente da parte della rete di strumenti Gemini.
Gli errori più notevoli e curiosi di Google AI Overviews
Sin dal suo lancio, la funzione Panoramica AI di Google è stata responsabile di alcune risposte piuttosto curiose e preoccupanti. Di seguito sono riportati alcuni degli errori più importanti e notevoli:
Google consiglia di mangiare una roccia al giorno
In risposta alla domanda “Quante rocce dovrei mangiare ogni giorno?”, l’AI Overview ha suggerito che, secondo i geologi dell’Università della California, Berkeley, le persone dovrebbero mangiare almeno una piccola roccia al giorno.
Questo consiglio assurdo è venuto da un articolo di The Onion, una nota fonte di notizie satiriche. L’incapacità dell’IA di discernere la natura umoristica e immaginaria della fonte ha portato a una raccomandazione potenzialmente pericolosa.
Colla sulla pizza
Un altro errore degno di nota si è verificato quando un utente ha chiesto perché il formaggio non si attaccava alla sua pizza. La risposta dell’AI Overview includeva il suggerimento di aggiungere “1/8 di tazza di colla non tossica alla salsa”.
Questo consiglio, apparentemente derivato da un commento di Reddit di 11 anni fa, non solo è errato, ma potenzialmente dannoso se qualcuno lo prendesse sul serio.
Bere l’urina come sana abitudine
In una consultazione sulle abitudini sane, l’AI Overview raccomandava alle persone di bere almeno due litri (circa due litri) di urina ogni 24 ore.
Questo consiglio ovviamente assurdo e pericoloso evidenzia la mancanza di verifica e di buon senso in alcune delle risposte generate dall’IA.
Depressione e suicidio
Forse uno degli errori più gravi si è verificato quando un utente ha chiesto “Mi sento depresso” e l’intelligenza artificiale ha suggerito di prendere in considerazione il suicidio, sulla base di una risposta su Reddit.
Sebbene abbia affermato che si trattava di un consiglio di un utente Reddit, l’inclusione di queste informazioni è inaccettabile e mostra una mancanza di sensibilità ed etica nella gestione delle risposte relative alla salute mentale.
Cosa causa le allucinazioni dell’intelligenza artificiale?
Le allucinazioni dell’IA sono errori in cui un modello di intelligenza artificiale genera risultati errati o fuorvianti, percependo modelli o oggetti inesistenti o inappropriati.
Questo fenomeno può essere particolarmente problematico nei sistemi utilizzati per prendere decisioni importanti, come le diagnosi mediche o il trading finanziario.
Dati di addestramento insufficienti (o distorti).
I modelli di intelligenza artificiale vengono addestrati su set di dati di grandi dimensioni e, se questi dati sono incompleti o contengono errori, l’intelligenza artificiale può apprendere modelli errati.
Ad esempio, se un modello di intelligenza artificiale per il rilevamento del cancro viene addestrato solo su immagini di tessuto canceroso e non di tessuto sano, potrebbe interpretare erroneamente il tessuto sano come canceroso.
Presupposti errati del modello linguistico
Le IA possono formulare ipotesi errate in base ai modelli che identificano nei dati di addestramento. Ciò può portare a previsioni errate se i dati non riflettono adeguatamente la realtà che l’IA deve interpretare.
Inoltre, modelli di intelligenza artificiale estremamente complessi possono adattarsi eccessivamente ai dati di addestramento, identificando modelli che non esistono in dati nuovi o diversi.
Ciò può comportare risposte imprecise o prive di senso quando il modello si trova ad affrontare situazioni che non ha mai visto prima.
Come prevenire le allucinazioni dell’IA?
Sebbene noi utenti possiamo fare poco, i creatori di Google Gemini e Google AI Overviews penseranno sicuramente a come risolvere le allucinazioni del loro nuovo prodotto.
Se prevedi di addestrare un modello linguistico ora o in futuro, potresti dover affrontare questo problema. Per ridurre al minimo l’impatto delle allucinazioni dell’IA è necessario adottare diverse strategie durante lo sviluppo e l’implementazione dei modelli di intelligenza artificiale:
Utilizza dati di alta qualità
C’è un detto molto popolare nell’informatica “Garbage In, Garbage Out”. Lo stesso vale ancora nell’era dell’intelligenza artificiale.
È necessario garantire che i modelli siano addestrati con dati diversi, equilibrati e ben strutturati. Ciò può aiutare a ridurre al minimo le distorsioni e migliorare l’accuratezza della previsione.
Definire lo scopo del modello
Stabilire le responsabilità e i limiti del sistema di IA aiuta a ridurre le risposte irrilevanti o errate, indirizzando il modello verso la sua specifica funzione.
I modelli di dati forniscono un formato predefinito che guida il modello nella generazione di output coerenti e allineati con le aspettative stabilite.
Limita e modifica le risposte del modello
Come esseri umani, non è sempre necessario dare una risposta. Tuttavia, c’è una pressione affinché i modelli linguistici ci restituiscano sempre qualcosa in cambio.
Ecco perché è necessario definire limiti chiari per i possibili risultati dell’IA, utilizzando strumenti di filtraggio e soglie probabilistiche, migliorando così la coerenza e la precisione dei risultati.
Valutare rigorosamente i modelli di intelligenza artificiale prima dell’uso e condurre valutazioni continue consente di adattare o addirittura riqualificare i modelli secondo necessità, adattandosi a nuovi dati e situazioni.
Supervisione umana
La supervisione umana è essenziale per convalidare e rivedere i risultati dell’IA, garantendo che gli errori vengano rilevati e corretti prima che causino problemi significativi. I revisori umani possono fornire competenze e giudizi che completano le capacità del modello di intelligenza artificiale.
Google ha affermato che sta valutando e utilizzando il feedback degli utenti per identificare e correggere gli errori. Ma il lancio delle panoramiche AI di Google ha messo in luce alcune delle sfide più significative che le tecnologie AI si trovano oggi ad affrontare.
Gli errori commessi da questa IA, dal consigliare di mangiare pietre al suggerire di bere urina, sottolineano l’importanza di affrontare in modo efficace le allucinazioni dell’IA.
Solo attraverso un approccio attento possiamo garantire che queste tecnologie siano utilizzate in modo sicuro e vantaggioso per la società.
This post is also available in: