Google, una delle aziende tecnologiche pi\u00f9 influenti al mondo, ha recentemente lanciato la sua nuova funzionalit\u00e0 AI, nota come \u201cPanoramiche AI\u201d.<\/p>\n
Questo lancio, per ora solo negli Stati Uniti, sembrava destinato a migliorare l’esperienza di ricerca degli utenti fornendo risposte rapide e precise a domande complesse. Tuttavia, ha dovuto affrontare una serie di seri problemi.<\/p>\n
Nonostante le grandi aspettative, la realt\u00e0 \u00e8 stata leggermente diversa, con numerosi casi di risposte imprecise, fuorvianti e persino pericolose emerse durante la sua attuazione.<\/p>\n
Questi errori, noti come “allucinazioni dell’intelligenza artificiale”, hanno sollevato notevoli preoccupazioni sull’affidabilit\u00e0 e sulla sicurezza di questa tecnologia emergente da parte della rete di strumenti Gemini<\/strong>.<\/p>\n Sin dal suo lancio, la funzione Panoramica AI di Google \u00e8 stata responsabile di alcune risposte piuttosto curiose e preoccupanti. Di seguito sono riportati alcuni degli errori pi\u00f9 importanti e notevoli:<\/p>\n In risposta alla domanda “Quante rocce dovrei mangiare ogni giorno?”, l’AI \u200b\u200bOverview ha suggerito che, secondo i geologi dell’Universit\u00e0 della California, Berkeley, le persone dovrebbero mangiare almeno una piccola roccia al giorno.<\/p>\n Questo consiglio assurdo \u00e8 venuto da un articolo di The Onion, una nota fonte di notizie satiriche. L’incapacit\u00e0 dell’IA di discernere la natura umoristica e immaginaria della fonte ha portato a una raccomandazione potenzialmente pericolosa.<\/p>\n Un altro errore degno di nota si \u00e8 verificato quando un utente ha chiesto perch\u00e9 il formaggio non si attaccava alla sua pizza. La risposta dell’AI Overview includeva il suggerimento di aggiungere “1\/8 di tazza di colla non tossica alla salsa”.<\/p>\n Questo consiglio, apparentemente derivato da un commento di Reddit di 11 anni fa, non solo \u00e8 errato, ma potenzialmente dannoso se qualcuno lo prendesse sul serio.<\/p>\n In una consultazione sulle abitudini sane, l\u2019AI Overview raccomandava alle persone di bere almeno due litri (circa due litri) di urina ogni 24 ore.<\/p>\n Questo consiglio ovviamente assurdo e pericoloso evidenzia la mancanza di verifica e di buon senso in alcune delle risposte generate dall\u2019IA.<\/p>\n Forse uno degli errori pi\u00f9 gravi si \u00e8 verificato quando un utente ha chiesto “Mi sento depresso” e l’intelligenza artificiale ha suggerito di prendere in considerazione il suicidio, sulla base di una risposta su Reddit.<\/p>\n Sebbene abbia affermato che si trattava di un consiglio di un utente Reddit, l’inclusione di queste informazioni \u00e8 inaccettabile e mostra una mancanza di sensibilit\u00e0 ed etica nella gestione delle risposte relative alla salute mentale.<\/p>\n Le allucinazioni dell’IA sono errori in cui un modello di intelligenza artificiale genera risultati errati o fuorvianti, percependo modelli o oggetti inesistenti o inappropriati.<\/p>\n Questo fenomeno pu\u00f2 essere particolarmente problematico nei sistemi utilizzati per prendere decisioni importanti, come le diagnosi mediche o il trading finanziario.<\/p>\n I modelli di intelligenza artificiale vengono addestrati su set di dati di grandi dimensioni e, se questi dati sono incompleti o contengono errori, l\u2019intelligenza artificiale pu\u00f2 apprendere modelli errati.<\/p>\n Ad esempio, se un modello di intelligenza artificiale per il rilevamento del cancro viene addestrato solo su immagini di tessuto canceroso e non di tessuto sano, potrebbe interpretare erroneamente il tessuto sano come canceroso.<\/p>\n Le IA possono formulare ipotesi errate in base ai modelli che identificano nei dati di addestramento. Ci\u00f2 pu\u00f2 portare a previsioni errate se i dati non riflettono adeguatamente la realt\u00e0 che l\u2019IA deve interpretare.<\/p>\n Inoltre, modelli di intelligenza artificiale estremamente complessi possono adattarsi eccessivamente ai dati di addestramento, identificando modelli che non esistono in dati nuovi o diversi.<\/p>\n Ci\u00f2 pu\u00f2 comportare risposte imprecise o prive di senso quando il modello si trova ad affrontare situazioni che non ha mai visto prima.<\/p>\n Sebbene noi utenti possiamo fare poco, i creatori di Google Gemini e Google AI Overviews penseranno sicuramente a come risolvere le allucinazioni del loro nuovo prodotto.<\/p>\n Se prevedi di addestrare un modello linguistico ora o in futuro, potresti dover affrontare questo problema. Per ridurre al minimo l’impatto delle allucinazioni dell’IA \u00e8 necessario adottare diverse strategie durante lo sviluppo e l’implementazione dei modelli di intelligenza artificiale:<\/p>\n C’\u00e8 un detto molto popolare nell’informatica “Garbage In, Garbage Out”. Lo stesso vale ancora nell\u2019era dell\u2019intelligenza artificiale.<\/p>\n \u00c8 necessario garantire che i modelli siano addestrati con dati diversi, equilibrati e ben strutturati. Ci\u00f2 pu\u00f2 aiutare a ridurre al minimo le distorsioni e migliorare l\u2019accuratezza della previsione.<\/p>\n Stabilire le responsabilit\u00e0 e i limiti del sistema di IA aiuta a ridurre le risposte irrilevanti o errate, indirizzando il modello verso la sua specifica funzione.<\/p>\n I modelli di dati forniscono un formato predefinito che guida il modello nella generazione di output coerenti e allineati con le aspettative stabilite.<\/p>\n Come esseri umani, non \u00e8 sempre necessario dare una risposta. Tuttavia, c\u2019\u00e8 una pressione affinch\u00e9 i modelli linguistici ci restituiscano sempre qualcosa in cambio.<\/p>\n Ecco perch\u00e9 \u00e8 necessario definire limiti chiari per i possibili risultati dell\u2019IA, utilizzando strumenti di filtraggio e soglie probabilistiche, migliorando cos\u00ec la coerenza e la precisione dei risultati.<\/p>\n Valutare rigorosamente i modelli di intelligenza artificiale prima dell\u2019uso e condurre valutazioni continue consente di adattare o addirittura riqualificare i modelli secondo necessit\u00e0, adattandosi a nuovi dati e situazioni.<\/p>\n La supervisione umana \u00e8 essenziale per convalidare e rivedere i risultati dell\u2019IA, garantendo che gli errori vengano rilevati e corretti prima che causino problemi significativi. I revisori umani possono fornire competenze e giudizi che completano le capacit\u00e0 del modello di intelligenza artificiale.<\/p>\n Google ha affermato che sta valutando e utilizzando il feedback degli utenti per identificare e correggere gli errori. Ma il lancio delle panoramiche AI \u200b\u200bdi Google ha messo in luce alcune delle sfide pi\u00f9 significative che le tecnologie AI si trovano oggi ad affrontare.<\/p>\n Gli errori commessi da questa IA, dal consigliare di mangiare pietre al suggerire di bere urina, sottolineano l\u2019importanza di affrontare in modo efficace le allucinazioni dell\u2019IA.<\/p>\n Solo attraverso un approccio attento possiamo garantire che queste tecnologie siano utilizzate in modo sicuro e vantaggioso per la societ\u00e0.<\/p>\n","protected":false},"excerpt":{"rendered":" Google, una delle aziende tecnologiche pi\u00f9 influenti al mondo, ha recentemente lanciato la sua nuova funzionalit\u00e0 AI, nota come \u201cPanoramiche AI\u201d. Questo lancio, per ora solo negli Stati Uniti, sembrava destinato a migliorare l’esperienza di ricerca degli utenti fornendo risposte rapide e precise a domande complesse. Tuttavia, ha dovuto affrontare una serie di seri problemi. […]<\/p>\n","protected":false},"author":9,"featured_media":12686,"comment_status":"open","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"_uag_custom_page_level_css":"","_thinkrank_schema_form_data":"","_thinkrank_selected_schema_type":"","_thinkrank_additional_schemas":"","_thinkrank_canonical_url":"","_thinkrank_og_title":"","_thinkrank_og_description":"","_thinkrank_og_image":"","_thinkrank_twitter_title":"","_thinkrank_twitter_description":"","_thinkrank_twitter_image":"","_thinkrank_imported_from":"","_thinkrank_focus_keywords":[],"_thinkrank_focus_keyword":"","_thinkrank_robots_meta_enabled":0,"_thinkrank_robots_meta":"","_thinkrank_advanced_robots_meta":"","_thinkrank_exclude_from_search":0,"_thinkrank_exclude_from_archives":0,"_thinkrank_primary_category":0,"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[716],"tags":[],"class_list":["post-26468","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-intelligenza-artificiale"],"uagb_featured_image_src":{"full":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2024\/05\/googleai-overviews-eeuu-ridiculo.jpg",1024,768,false],"thumbnail":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2024\/05\/googleai-overviews-eeuu-ridiculo-150x150.jpg",150,150,true],"medium":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2024\/05\/googleai-overviews-eeuu-ridiculo-300x225.jpg",300,225,true],"medium_large":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2024\/05\/googleai-overviews-eeuu-ridiculo-768x576.jpg",768,576,true],"large":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2024\/05\/googleai-overviews-eeuu-ridiculo.jpg",1024,768,false],"1536x1536":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2024\/05\/googleai-overviews-eeuu-ridiculo.jpg",1024,768,false],"2048x2048":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2024\/05\/googleai-overviews-eeuu-ridiculo.jpg",1024,768,false]},"uagb_author_info":{"display_name":"marketing","author_link":"https:\/\/comunicagenia.com\/it\/blog\/author\/marketing\/"},"uagb_comment_info":0,"uagb_excerpt":"Google, una delle aziende tecnologiche pi\u00f9 influenti al mondo, ha recentemente lanciato la sua nuova funzionalit\u00e0 AI, nota come \u201cPanoramiche AI\u201d. Questo lancio, per ora solo negli Stati Uniti, sembrava destinato a migliorare l’esperienza di ricerca degli utenti fornendo risposte rapide e precise a domande complesse. Tuttavia, ha dovuto affrontare una serie di seri problemi.…","_links":{"self":[{"href":"https:\/\/comunicagenia.com\/it\/wp-json\/wp\/v2\/posts\/26468","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/comunicagenia.com\/it\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/comunicagenia.com\/it\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/comunicagenia.com\/it\/wp-json\/wp\/v2\/users\/9"}],"replies":[{"embeddable":true,"href":"https:\/\/comunicagenia.com\/it\/wp-json\/wp\/v2\/comments?post=26468"}],"version-history":[{"count":0,"href":"https:\/\/comunicagenia.com\/it\/wp-json\/wp\/v2\/posts\/26468\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/comunicagenia.com\/it\/wp-json\/wp\/v2\/media\/12686"}],"wp:attachment":[{"href":"https:\/\/comunicagenia.com\/it\/wp-json\/wp\/v2\/media?parent=26468"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/comunicagenia.com\/it\/wp-json\/wp\/v2\/categories?post=26468"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/comunicagenia.com\/it\/wp-json\/wp\/v2\/tags?post=26468"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}Gli errori pi\u00f9 notevoli e curiosi di Google AI Overviews<\/h2>\n
Google consiglia di mangiare una roccia al giorno<\/h3>\n
Colla sulla pizza<\/h3>\n
Bere l’urina come sana abitudine<\/h3>\n
Depressione e suicidio<\/h3>\n
Cosa causa le allucinazioni dell’intelligenza artificiale?<\/h2>\n
Dati di addestramento insufficienti (o distorti).<\/h3>\n
Presupposti errati del modello linguistico<\/h3>\n
Come prevenire le allucinazioni dell’IA?<\/h2>\n
Utilizza dati di alta qualit\u00e0<\/h3>\n
Definire lo scopo del modello<\/h3>\n
Limita e modifica le risposte del modello<\/h3>\n
Supervisione umana<\/h3>\n