Google, l’une des soci\u00e9t\u00e9s technologiques les plus influentes au monde, a r\u00e9cemment lanc\u00e9 sa nouvelle fonctionnalit\u00e9 d’IA, connue sous le nom de \u00ab\u00a0AI Overviews\u00a0\u00bb.<\/p>\n
Ce lancement, pour l’instant uniquement aux \u00c9tats-Unis, semblait destin\u00e9 \u00e0 am\u00e9liorer l’exp\u00e9rience de recherche des utilisateurs en fournissant des r\u00e9ponses rapides et pr\u00e9cises \u00e0 des requ\u00eates complexes. Cependant, il a \u00e9t\u00e9 confront\u00e9 \u00e0 un certain nombre de probl\u00e8mes graves.<\/p>\n
Malgr\u00e9 de grandes attentes, la r\u00e9alit\u00e9 a \u00e9t\u00e9 quelque peu diff\u00e9rente, avec de nombreux cas de r\u00e9ponses inexactes, trompeuses, voire dangereuses, \u00e9mergeant tout au long de sa mise en \u0153uvre.<\/p>\n
Ces erreurs, connues sous le nom d’\u00ab hallucinations de l’IA \u00bb, ont soulev\u00e9 d’importantes inqui\u00e9tudes quant \u00e0 la fiabilit\u00e9 et \u00e0 la s\u00e9curit\u00e9 de cette technologie \u00e9mergente du r\u00e9seau d’outils Gemini<\/strong>.<\/p>\n Depuis son lancement, la fonctionnalit\u00e9 AI Overviews de Google a suscit\u00e9 des r\u00e9ponses assez curieuses et inqui\u00e9tantes. Vous trouverez ci-dessous quelques-unes des erreurs les plus importantes et les plus notables\u00a0:<\/p>\n En r\u00e9ponse \u00e0 la question \u00ab\u00a0Combien de pierres dois-je manger chaque jour\u00a0?\u00a0\u00bb, l’AI Overview a sugg\u00e9r\u00e9 que, selon les g\u00e9ologues de l’Universit\u00e9 de Californie \u00e0 Berkeley, les gens devraient manger au moins une petite pierre par jour.<\/p>\n Ce conseil absurde est tir\u00e9 d\u2019un article de The Onion, une source d\u2019information satirique bien connue. L’incapacit\u00e9 de l’IA \u00e0 discerner la nature humoristique et fictive de la source a abouti \u00e0 une recommandation potentiellement dangereuse.<\/p>\n Une autre erreur notable s’est produite lorsqu’un utilisateur a demand\u00e9 pourquoi le fromage ne collait pas \u00e0 sa pizza. La r\u00e9ponse d’AI \u200b\u200bOverview incluait la suggestion d’ajouter \u00ab\u00a01\/8 tasse de colle non toxique \u00e0 la sauce\u00a0\u00bb.<\/p>\n Ce conseil, apparemment d\u00e9riv\u00e9 d’un commentaire Reddit vieux de 11 ans, est non seulement incorrect, mais potentiellement dangereux si quelqu’un le prend au s\u00e9rieux.<\/p>\n Lors d\u2019une consultation sur les habitudes saines, l\u2019AI Overview a recommand\u00e9 que les gens boivent au moins deux litres (environ deux litres) d\u2019urine toutes les 24 heures.<\/p>\n Ce conseil manifestement absurde et dangereux met en \u00e9vidence le manque de v\u00e9rification et de bon sens de certaines des r\u00e9ponses g\u00e9n\u00e9r\u00e9es par l\u2019IA.<\/p>\n L\u2019une des erreurs les plus graves s\u2019est peut-\u00eatre produite lorsqu\u2019un utilisateur a demand\u00e9 \u00ab Je me sens d\u00e9prim\u00e9 \u00bb et que l\u2019IA lui a sugg\u00e9r\u00e9 d\u2019envisager le suicide, sur la base d\u2019une r\u00e9ponse de Reddit.<\/p>\n Bien qu’il ait mentionn\u00e9 qu’il s’agissait d’un conseil d’un utilisateur de Reddit, l’inclusion de ces informations est inacceptable et d\u00e9montre un manque de sensibilit\u00e9 et d’\u00e9thique dans la gestion des r\u00e9ponses li\u00e9es \u00e0 la sant\u00e9 mentale.<\/p>\n Les hallucinations de l’IA sont des erreurs dans lesquelles un mod\u00e8le d’IA g\u00e9n\u00e8re des r\u00e9sultats incorrects ou trompeurs, percevant des mod\u00e8les ou des objets inexistants ou inappropri\u00e9s.<\/p>\n Ce ph\u00e9nom\u00e8ne peut \u00eatre particuli\u00e8rement probl\u00e9matique dans les syst\u00e8mes utilis\u00e9s pour prendre des d\u00e9cisions importantes, telles que les diagnostics m\u00e9dicaux ou les transactions financi\u00e8res.<\/p>\n Les mod\u00e8les d’IA sont form\u00e9s sur de grands ensembles de donn\u00e9es, et si ces donn\u00e9es sont incompl\u00e8tes ou contiennent des biais, l’IA peut apprendre des mod\u00e8les incorrects.<\/p>\n Par exemple, si un mod\u00e8le d\u2019IA pour d\u00e9tecter le cancer est form\u00e9 uniquement sur des images de tissus canc\u00e9reux et non de tissus sains, il peut interpr\u00e9ter \u00e0 tort les tissus sains comme canc\u00e9reux.<\/p>\n Les IA peuvent faire des hypoth\u00e8ses incorrectes sur la base des mod\u00e8les qu’elles identifient dans les donn\u00e9es d’entra\u00eenement. Cela peut conduire \u00e0 des pr\u00e9dictions erron\u00e9es si les donn\u00e9es ne refl\u00e8tent pas ad\u00e9quatement la r\u00e9alit\u00e9 que l\u2019IA doit interpr\u00e9ter.<\/p>\n De plus, des mod\u00e8les d\u2019IA extr\u00eamement complexes peuvent \u00eatre surajust\u00e9s aux donn\u00e9es d\u2019entra\u00eenement, identifiant ainsi des mod\u00e8les qui n\u2019existent pas dans des donn\u00e9es nouvelles ou diff\u00e9rentes.<\/p>\n Cela peut entra\u00eener des r\u00e9ponses inexactes ou absurdes lorsque le mod\u00e8le est confront\u00e9 \u00e0 des situations qu’il n’a jamais vues auparavant.<\/p>\n Bien que nous, utilisateurs, ne puissions pas faire grand-chose, les cr\u00e9ateurs de Google Gemini et de Google AI Overviews r\u00e9fl\u00e9chiront s\u00fbrement \u00e0 la mani\u00e8re de r\u00e9soudre les hallucinations de leur nouveau produit.<\/p>\n Si vous envisagez de former un mod\u00e8le de langage maintenant ou dans le futur, vous pourriez \u00eatre confront\u00e9 \u00e0 ce probl\u00e8me. Minimiser l\u2019impact des hallucinations de l\u2019IA n\u00e9cessite l\u2019adoption de plusieurs strat\u00e9gies lors du d\u00e9veloppement et du d\u00e9ploiement des mod\u00e8les d\u2019IA\u00a0:<\/p>\n Il existe un dicton tr\u00e8s populaire en informatique : \u00ab Garbage In, Garbage Out \u00bb. La m\u00eame chose est toujours vraie \u00e0 l\u2019\u00e8re de l\u2019IA.<\/p>\n Il est n\u00e9cessaire de garantir que les mod\u00e8les sont form\u00e9s avec des donn\u00e9es diverses, \u00e9quilibr\u00e9es et bien structur\u00e9es. Cela peut aider \u00e0 minimiser les biais et \u00e0 am\u00e9liorer la pr\u00e9cision des pr\u00e9visions.<\/p>\n \u00c9tablir les responsabilit\u00e9s et les limites du syst\u00e8me d’IA permet de r\u00e9duire les r\u00e9ponses non pertinentes ou incorrectes, guidant le mod\u00e8le vers sa fonction sp\u00e9cifique.<\/p>\n Les mod\u00e8les de donn\u00e9es fournissent un format pr\u00e9d\u00e9fini qui guide le mod\u00e8le dans la g\u00e9n\u00e9ration de r\u00e9sultats coh\u00e9rents et align\u00e9s sur les attentes \u00e9tablies.<\/p>\n En tant qu\u2019humains, il n\u2019est pas toujours n\u00e9cessaire de donner une r\u00e9ponse. Cependant, il existe une pression pour que les mod\u00e8les linguistiques nous rendent toujours quelque chose en retour.<\/p>\n C\u2019est pourquoi il est n\u00e9cessaire de d\u00e9finir des limites claires pour les r\u00e9sultats possibles de l\u2019IA, \u00e0 l\u2019aide d\u2019outils de filtrage et de seuils probabilistes, am\u00e9liorant ainsi la coh\u00e9rence et la pr\u00e9cision des r\u00e9sultats.<\/p>\n L\u2019\u00e9valuation rigoureuse des mod\u00e8les d\u2019IA avant utilisation et la r\u00e9alisation d\u2019\u00e9valuations continues permettent d\u2019ajuster ou m\u00eame de recycler les mod\u00e8les si n\u00e9cessaire, en s\u2019adaptant aux nouvelles donn\u00e9es et situations.<\/p>\n La surveillance humaine est essentielle pour valider et examiner les r\u00e9sultats de l\u2019IA, garantissant que les erreurs sont d\u00e9tect\u00e9es et corrig\u00e9es avant qu\u2019elles ne causent des probl\u00e8mes importants. Les \u00e9valuateurs humains peuvent fournir une expertise et un jugement qui compl\u00e8tent les capacit\u00e9s du mod\u00e8le d’IA.<\/p>\n Google a d\u00e9clar\u00e9 qu’il \u00e9valuait et utilisait les commentaires des utilisateurs pour identifier et corriger les erreurs. Mais le lancement des aper\u00e7us de l’IA de Google a mis en lumi\u00e8re certains des d\u00e9fis les plus importants auxquels sont confront\u00e9es les technologies de l’IA aujourd’hui.<\/p>\n Les erreurs commises par cette IA, depuis la recommandation de manger des pierres jusqu\u2019\u00e0 la suggestion de boire de l\u2019urine, soulignent l\u2019importance de traiter efficacement les hallucinations de l\u2019IA.<\/p>\n Ce n\u2019est qu\u2019en adoptant une approche prudente que nous pourrons garantir que ces technologies seront utilis\u00e9es en toute s\u00e9curit\u00e9 et b\u00e9n\u00e9ficieront \u00e0 la soci\u00e9t\u00e9.<\/p>\n","protected":false},"excerpt":{"rendered":" Google, l’une des soci\u00e9t\u00e9s technologiques les plus influentes au monde, a r\u00e9cemment lanc\u00e9 sa nouvelle fonctionnalit\u00e9 d’IA, connue sous le nom de \u00ab\u00a0AI Overviews\u00a0\u00bb. Ce lancement, pour l’instant uniquement aux \u00c9tats-Unis, semblait destin\u00e9 \u00e0 am\u00e9liorer l’exp\u00e9rience de recherche des utilisateurs en fournissant des r\u00e9ponses rapides et pr\u00e9cises \u00e0 des requ\u00eates complexes. Cependant, il a \u00e9t\u00e9 […]<\/p>\n","protected":false},"author":9,"featured_media":12686,"comment_status":"open","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"_uag_custom_page_level_css":"","_thinkrank_schema_form_data":"","_thinkrank_selected_schema_type":"","_thinkrank_additional_schemas":"","_thinkrank_canonical_url":"","_thinkrank_og_title":"","_thinkrank_og_description":"","_thinkrank_og_image":"","_thinkrank_twitter_title":"","_thinkrank_twitter_description":"","_thinkrank_twitter_image":"","_thinkrank_imported_from":"","_thinkrank_focus_keywords":[],"_thinkrank_focus_keyword":"","_thinkrank_robots_meta_enabled":0,"_thinkrank_robots_meta":"","_thinkrank_advanced_robots_meta":"","_thinkrank_exclude_from_search":0,"_thinkrank_exclude_from_archives":0,"_thinkrank_primary_category":0,"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[718],"tags":[],"class_list":["post-27446","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-intelligence-artificielle"],"uagb_featured_image_src":{"full":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2024\/05\/googleai-overviews-eeuu-ridiculo.jpg",1024,768,false],"thumbnail":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2024\/05\/googleai-overviews-eeuu-ridiculo-150x150.jpg",150,150,true],"medium":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2024\/05\/googleai-overviews-eeuu-ridiculo-300x225.jpg",300,225,true],"medium_large":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2024\/05\/googleai-overviews-eeuu-ridiculo-768x576.jpg",768,576,true],"large":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2024\/05\/googleai-overviews-eeuu-ridiculo.jpg",1024,768,false],"1536x1536":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2024\/05\/googleai-overviews-eeuu-ridiculo.jpg",1024,768,false],"2048x2048":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2024\/05\/googleai-overviews-eeuu-ridiculo.jpg",1024,768,false]},"uagb_author_info":{"display_name":"marketing","author_link":"https:\/\/comunicagenia.com\/fr\/blog\/author\/marketing\/"},"uagb_comment_info":0,"uagb_excerpt":"Google, l’une des soci\u00e9t\u00e9s technologiques les plus influentes au monde, a r\u00e9cemment lanc\u00e9 sa nouvelle fonctionnalit\u00e9 d’IA, connue sous le nom de \u00ab\u00a0AI Overviews\u00a0\u00bb. Ce lancement, pour l’instant uniquement aux \u00c9tats-Unis, semblait destin\u00e9 \u00e0 am\u00e9liorer l’exp\u00e9rience de recherche des utilisateurs en fournissant des r\u00e9ponses rapides et pr\u00e9cises \u00e0 des requ\u00eates complexes. Cependant, il a \u00e9t\u00e9\u2026","_links":{"self":[{"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/posts\/27446","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/users\/9"}],"replies":[{"embeddable":true,"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/comments?post=27446"}],"version-history":[{"count":0,"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/posts\/27446\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/media\/12686"}],"wp:attachment":[{"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/media?parent=27446"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/categories?post=27446"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/tags?post=27446"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}Les erreurs les plus notables et les plus curieuses des aper\u00e7us de Google AI<\/h2>\n
Google recommande de manger une pierre par jour<\/h3>\n
Colle sur la pizza<\/h3>\n
Boire de l’urine comme une habitude saine<\/h3>\n
D\u00e9pression et suicide<\/h3>\n
Qu’est-ce qui cause les hallucinations de l’IA\u00a0?<\/h2>\n
Donn\u00e9es d’entra\u00eenement insuffisantes (ou biais\u00e9es)<\/h3>\n
Hypoth\u00e8ses incorrectes du mod\u00e8le de langage<\/h3>\n
Comment pr\u00e9venir les hallucinations de l’IA ?<\/h2>\n
Utilisez des donn\u00e9es de haute qualit\u00e9<\/h3>\n
D\u00e9finir l’objectif du mod\u00e8le<\/h3>\n
Limiter et ajuster les r\u00e9ponses du mod\u00e8le<\/h3>\n
Supervision humaine<\/h3>\n