Google, l’une des sociétés technologiques les plus influentes au monde, a récemment lancé sa nouvelle fonctionnalité d’IA, connue sous le nom de « AI Overviews ».
Ce lancement, pour l’instant uniquement aux États-Unis, semblait destiné à améliorer l’expérience de recherche des utilisateurs en fournissant des réponses rapides et précises à des requêtes complexes. Cependant, il a été confronté à un certain nombre de problèmes graves.
Malgré de grandes attentes, la réalité a été quelque peu différente, avec de nombreux cas de réponses inexactes, trompeuses, voire dangereuses, émergeant tout au long de sa mise en œuvre.
Ces erreurs, connues sous le nom d’« hallucinations de l’IA », ont soulevé d’importantes inquiétudes quant à la fiabilité et à la sécurité de cette technologie émergente du réseau d’outils Gemini.
Les erreurs les plus notables et les plus curieuses des aperçus de Google AI
Depuis son lancement, la fonctionnalité AI Overviews de Google a suscité des réponses assez curieuses et inquiétantes. Vous trouverez ci-dessous quelques-unes des erreurs les plus importantes et les plus notables :
Google recommande de manger une pierre par jour
En réponse à la question « Combien de pierres dois-je manger chaque jour ? », l’AI Overview a suggéré que, selon les géologues de l’Université de Californie à Berkeley, les gens devraient manger au moins une petite pierre par jour.
Ce conseil absurde est tiré d’un article de The Onion, une source d’information satirique bien connue. L’incapacité de l’IA à discerner la nature humoristique et fictive de la source a abouti à une recommandation potentiellement dangereuse.
Colle sur la pizza
Une autre erreur notable s’est produite lorsqu’un utilisateur a demandé pourquoi le fromage ne collait pas à sa pizza. La réponse d’AI Overview incluait la suggestion d’ajouter « 1/8 tasse de colle non toxique à la sauce ».
Ce conseil, apparemment dérivé d’un commentaire Reddit vieux de 11 ans, est non seulement incorrect, mais potentiellement dangereux si quelqu’un le prend au sérieux.
Boire de l’urine comme une habitude saine
Lors d’une consultation sur les habitudes saines, l’AI Overview a recommandé que les gens boivent au moins deux litres (environ deux litres) d’urine toutes les 24 heures.
Ce conseil manifestement absurde et dangereux met en évidence le manque de vérification et de bon sens de certaines des réponses générées par l’IA.
Dépression et suicide
L’une des erreurs les plus graves s’est peut-être produite lorsqu’un utilisateur a demandé « Je me sens déprimé » et que l’IA lui a suggéré d’envisager le suicide, sur la base d’une réponse de Reddit.
Bien qu’il ait mentionné qu’il s’agissait d’un conseil d’un utilisateur de Reddit, l’inclusion de ces informations est inacceptable et démontre un manque de sensibilité et d’éthique dans la gestion des réponses liées à la santé mentale.
Qu’est-ce qui cause les hallucinations de l’IA ?
Les hallucinations de l’IA sont des erreurs dans lesquelles un modèle d’IA génère des résultats incorrects ou trompeurs, percevant des modèles ou des objets inexistants ou inappropriés.
Ce phénomène peut être particulièrement problématique dans les systèmes utilisés pour prendre des décisions importantes, telles que les diagnostics médicaux ou les transactions financières.
Données d’entraînement insuffisantes (ou biaisées)
Les modèles d’IA sont formés sur de grands ensembles de données, et si ces données sont incomplètes ou contiennent des biais, l’IA peut apprendre des modèles incorrects.
Par exemple, si un modèle d’IA pour détecter le cancer est formé uniquement sur des images de tissus cancéreux et non de tissus sains, il peut interpréter à tort les tissus sains comme cancéreux.
Hypothèses incorrectes du modèle de langage
Les IA peuvent faire des hypothèses incorrectes sur la base des modèles qu’elles identifient dans les données d’entraînement. Cela peut conduire à des prédictions erronées si les données ne reflètent pas adéquatement la réalité que l’IA doit interpréter.
De plus, des modèles d’IA extrêmement complexes peuvent être surajustés aux données d’entraînement, identifiant ainsi des modèles qui n’existent pas dans des données nouvelles ou différentes.
Cela peut entraîner des réponses inexactes ou absurdes lorsque le modèle est confronté à des situations qu’il n’a jamais vues auparavant.
Comment prévenir les hallucinations de l’IA ?
Bien que nous, utilisateurs, ne puissions pas faire grand-chose, les créateurs de Google Gemini et de Google AI Overviews réfléchiront sûrement à la manière de résoudre les hallucinations de leur nouveau produit.
Si vous envisagez de former un modèle de langage maintenant ou dans le futur, vous pourriez être confronté à ce problème. Minimiser l’impact des hallucinations de l’IA nécessite l’adoption de plusieurs stratégies lors du développement et du déploiement des modèles d’IA :
Utilisez des données de haute qualité
Il existe un dicton très populaire en informatique : « Garbage In, Garbage Out ». La même chose est toujours vraie à l’ère de l’IA.
Il est nécessaire de garantir que les modèles sont formés avec des données diverses, équilibrées et bien structurées. Cela peut aider à minimiser les biais et à améliorer la précision des prévisions.
Définir l’objectif du modèle
Établir les responsabilités et les limites du système d’IA permet de réduire les réponses non pertinentes ou incorrectes, guidant le modèle vers sa fonction spécifique.
Les modèles de données fournissent un format prédéfini qui guide le modèle dans la génération de résultats cohérents et alignés sur les attentes établies.
Limiter et ajuster les réponses du modèle
En tant qu’humains, il n’est pas toujours nécessaire de donner une réponse. Cependant, il existe une pression pour que les modèles linguistiques nous rendent toujours quelque chose en retour.
C’est pourquoi il est nécessaire de définir des limites claires pour les résultats possibles de l’IA, à l’aide d’outils de filtrage et de seuils probabilistes, améliorant ainsi la cohérence et la précision des résultats.
L’évaluation rigoureuse des modèles d’IA avant utilisation et la réalisation d’évaluations continues permettent d’ajuster ou même de recycler les modèles si nécessaire, en s’adaptant aux nouvelles données et situations.
Supervision humaine
La surveillance humaine est essentielle pour valider et examiner les résultats de l’IA, garantissant que les erreurs sont détectées et corrigées avant qu’elles ne causent des problèmes importants. Les évaluateurs humains peuvent fournir une expertise et un jugement qui complètent les capacités du modèle d’IA.
Google a déclaré qu’il évaluait et utilisait les commentaires des utilisateurs pour identifier et corriger les erreurs. Mais le lancement des aperçus de l’IA de Google a mis en lumière certains des défis les plus importants auxquels sont confrontées les technologies de l’IA aujourd’hui.
Les erreurs commises par cette IA, depuis la recommandation de manger des pierres jusqu’à la suggestion de boire de l’urine, soulignent l’importance de traiter efficacement les hallucinations de l’IA.
Ce n’est qu’en adoptant une approche prudente que nous pourrons garantir que ces technologies seront utilisées en toute sécurité et bénéficieront à la société.
This post is also available in: