Le 2 avril, l’Organisation mondiale de la santé (OMS) a lancé son nouveau chatbot, SARAH (Smart AI Resource Assistant for Health), avec de grandes attentes. Cet assistant virtuel, basé sur la technologie GPT-3.5, a été conçu pour proposer des conseils de santé en huit langues différentes.
L’idée était de fournir un service accessible et utile à des millions de personnes dans le monde, en les aidant à prendre des décisions éclairées concernant leur bien-être. Cependant, ce qui promettait d’être un outil révolutionnaire est vite devenu source de problèmes.
Quelques jours seulement après sa publication, SARAH a été critiquée pour avoir fourni des informations incorrectes. Dans un cas particulier, il a même inventé des noms et des adresses de cliniques inexistantes à San Francisco, qui auraient pu avoir de graves conséquences si elles n’étaient pas détectées à temps.
Cet incident n’est qu’un autre parmi la liste croissante de pannes de chatbots alimentés par l’IA. Dans le passé, d’autres systèmes tels que le Galactica de Meta et le chatbot d’Air Canada ont également connu des problèmes similaires.
Mais pourquoi cela arrive-t-il ? Pourquoi ces intelligences artificielles, conçues pour nous aider, finissent-elles par inventer des réponses qui n’ont aucun fondement dans la réalité ?
Toutes les IA hallucinent
Ce qui est arrivé à SARAH est un phénomène connu sous le nom d’« hallucination de l’IA ». Dans le domaine de l’IA, une hallucination fait référence à une réponse générée par l’IA qui contient des informations fausses ou trompeuses présentées comme des faits.
Bien que nous associions généralement le mot « hallucination » aux expériences humaines, dans le contexte de l’IA, il a été utilisé comme analogie. La principale différence est que les hallucinations d’une IA sont liées à des réponses ou à des croyances incorrectes, plutôt qu’à des expériences perceptuelles ou sensorielles.
Par exemple, un chatbot alimenté par de grands modèles de langage (LLM), tels que ChatGPT, peut inclure des mensonges aléatoires et plausibles dans celui généré.
Selon une étude récente menée par des chercheurs de Cornell, tous les modèles d’IA générative vous époustouflent. Cependant, tout le monde ne le fait pas au même rythme, et la véracité de leurs affirmations dépend des sources d’information auxquelles ils ont été exposés.
L’étude a évalué plusieurs modèles populaires, notamment GPT-4o, Llama 3 70B, Mixtral 8x22B, entre autres. Étonnamment, même les modèles les plus grands et les plus avancés, tels que le GPT-4o, ne génèrent du texte sans hallucinations qu’environ 35 % du temps.
Comment et pourquoi les hallucinations de l’IA se produisent-elles ?
Les hallucinations se produisent lorsqu’un modèle d’IA, tel qu’un réseau neuronal, produit des résultats qui ne sont pas directement liés aux entrées fournies. Ces résultats peuvent être des motifs, des objets ou même du texte auquel nous ne nous attendions pas ou qui n’ont aucun sens.
Les IA actuelles (basées sur l’architecture des transformateurs) sont sujettes aux hallucinations en raison de la manière dont elles apprennent des données. Pendant la formation, les modèles tentent de capturer des modèles dans les données, mais parfois ils extrapolent ou comblent les lacunes de manière incorrecte.
Voici quelques facteurs qui peuvent contribuer aux hallucinations :
- Erreurs dans les données d’entraînement : Si les données contiennent des erreurs ou des biais, le modèle peut apprendre à les reproduire. Des hallucinations peuvent survenir lorsque le modèle généralise de manière incorrecte à partir d’exemples incorrects.
- Modèles très complexes : Les réseaux de neurones profonds ont plus de paramètres et donc plus de possibilités d’halluciner. La complexité augmente la probabilité que le modèle génère des informations incorrectes.
- Généralisation défectueuse : Les modèles peuvent apprendre des modèles qui ne s’appliquent pas universellement. Cela peut conduire à des hallucinations face à des situations inhabituelles ou en dehors de leur domaine de formation.
- Surajustement : si un modèle s’adapte trop aux données d’entraînement, il peut mémoriser des exemples spécifiques, au lieu d’apprendre des concepts généraux. Cela peut provoquer des hallucinations lors de la rencontre de nouvelles données.
Conséquences des hallucinations
Les hallucinations de l’IA peuvent avoir de graves conséquences, en particulier dans les domaines où la précision est cruciale, comme la médecine. Dans le cas de SARAH, la création de cliniques fictives aurait pu conduire à de mauvaises décisions en matière de recours à des soins médicaux.
Dans d’autres cas, ces hallucinations peuvent perpétuer les préjugés présents dans les données d’entraînement. Par exemple, un modèle pourrait générer des déclarations discriminatoires ou stéréotypées, comme cela s’est produit en février avec la génération d’images dans Google Gemini.
Enfin, lorsque les utilisateurs se rendent compte qu’un modèle d’IA hallucine, ils peuvent perdre confiance dans sa capacité à fournir des réponses précises.
Le problème sous-jacent est que, à mesure que ces modèles deviennent plus sophistiqués et que leurs réponses deviennent plus crédibles, il est plus facile pour les utilisateurs de leur faire aveuglément confiance.
Cela peut conduire à la diffusion de fausses informations, comme nous l’avons déjà vu avec les chatbots qui inventent des citations judiciaires ou des articles scientifiques.
Les hallucinations de l’IA sont-elles utiles ?
Comme nous l’avons vu, les hallucinations de l’IA sont souvent considérées comme un problème, mais elles ont également des applications potentielles dans les domaines créatifs et exploratoires. Par exemple, les capacités hallucinatoires des IA peuvent constituer un outil précieux dans le domaine de l’art et du design.
Les modèles d’IA peuvent générer des images qui défient la logique et la réalité, ouvrant ainsi de nouvelles possibilités créatives. Ces images peuvent inciter les artistes et les designers à explorer des territoires non conventionnels.
Si elle est utilisée pour générer de la musique, une IA hallucinante peut créer des mélodies originales et des harmonies inhabituelles. Dans l’industrie du cinéma et du jeu vidéo, les hallucinations peuvent donner lieu à des effets visuels surprenants et uniques.
Ils peuvent également être utiles dans la visualisation de données, où la capacité de l’IA à détecter des connexions non évidentes pourrait fournir de nouvelles informations.
Atténuer le problème des hallucinations
Pour minimiser les hallucinations, plusieurs mesures peuvent être prises. L’une des méthodes les plus fondamentales pour réduire les hallucinations consiste à entraîner des modèles avec des ensembles de données bien structurés, diversifiés et de haute qualité.
Cela inclut des données qui reflètent un large éventail de contextes et sont exemptes de biais qui pourraient conduire le modèle à générer des réponses incorrectes.
La mise en œuvre de contraintes qui limitent l’éventail des réponses possibles est une autre technique efficace. Ceci peut être réalisé en utilisant des outils de filtrage et en définissant des seuils probabilistes clairs, que le modèle doit respecter avant de générer une réponse.
Vous pouvez également utiliser la technique de la « chaîne de pensée » (Chain-of-Thought Prompting). Cette technique invite le modèle à décomposer son raisonnement étape par étape, lui permettant de vérifier la logique de ses réponses au fur et à mesure qu’il les génère.
Enfin, et peut-être le plus important ; La surveillance humaine reste cruciale pour garantir l’exactitude des systèmes d’IA. Impliquer des experts humains pour examiner et valider les résultats du modèle constitue une dernière ligne de défense contre les hallucinations.
Le cas de SARAH rappelle que, même si l’intelligence artificielle a énormément progressé, elle reste imparfaite. Les hallucinations de l’IA révèlent non seulement les limites actuelles de la technologie, mais soulignent également l’importance d’une approche prudente et critique dans sa mise en œuvre.
This post is also available in: