{"id":27374,"date":"2024-08-16T17:12:01","date_gmt":"2024-08-16T15:12:01","guid":{"rendered":"https:\/\/comunicagenia.com\/blog\/hallucinations-de-sarah-quelque-chose-ne-va-pas-avec-lia\/"},"modified":"2024-08-16T17:12:01","modified_gmt":"2024-08-16T15:12:01","slug":"hallucinations-de-sarah-quelque-chose-ne-va-pas-avec-lia","status":"publish","type":"post","link":"https:\/\/comunicagenia.com\/fr\/blog\/hallucinations-de-sarah-quelque-chose-ne-va-pas-avec-lia\/","title":{"rendered":"Hallucinations de SARAH : Quelque chose ne va pas avec l’IA ?"},"content":{"rendered":"

Le 2 avril, l’Organisation mondiale de la sant\u00e9 (OMS) a lanc\u00e9 son nouveau chatbot, SARAH (Smart AI Resource Assistant for Health), avec de grandes attentes. Cet assistant virtuel, bas\u00e9 sur la technologie GPT-3.5, a \u00e9t\u00e9 con\u00e7u pour proposer des conseils de sant\u00e9 en huit langues diff\u00e9rentes.<\/p>\n

L\u2019id\u00e9e \u00e9tait de fournir un service accessible et utile \u00e0 des millions de personnes dans le monde, en les aidant \u00e0 prendre des d\u00e9cisions \u00e9clair\u00e9es concernant leur bien-\u00eatre. Cependant, ce qui promettait d\u2019\u00eatre un outil r\u00e9volutionnaire est vite devenu source de probl\u00e8mes.<\/p>\n

Quelques jours seulement apr\u00e8s sa publication, SARAH a \u00e9t\u00e9 critiqu\u00e9e pour avoir fourni des informations incorrectes. Dans un cas particulier, il a m\u00eame invent\u00e9 des noms et des adresses de cliniques inexistantes \u00e0 San Francisco, qui auraient pu avoir de graves cons\u00e9quences si elles n’\u00e9taient pas d\u00e9tect\u00e9es \u00e0 temps.<\/p>\n

Cet incident n\u2019est qu\u2019un autre parmi la liste croissante de pannes de chatbots aliment\u00e9s par l\u2019IA. Dans le pass\u00e9, d’autres syst\u00e8mes tels que le Galactica de Meta et le chatbot d’Air Canada ont \u00e9galement connu des probl\u00e8mes similaires.<\/p>\n

Mais pourquoi cela arrive-t-il ? Pourquoi ces intelligences artificielles, con\u00e7ues pour nous aider, finissent-elles par inventer des r\u00e9ponses qui n\u2019ont aucun fondement dans la r\u00e9alit\u00e9 ?<\/p>\n

Toutes les IA hallucinent<\/h2>\n

Ce qui est arriv\u00e9 \u00e0 SARAH est un ph\u00e9nom\u00e8ne connu sous le nom d\u2019\u00ab hallucination de l\u2019IA \u00bb. Dans le domaine de l\u2019IA, une hallucination fait r\u00e9f\u00e9rence \u00e0 une r\u00e9ponse g\u00e9n\u00e9r\u00e9e par l\u2019IA qui contient des informations fausses ou trompeuses pr\u00e9sent\u00e9es comme des faits.<\/p>\n

Bien que nous associions g\u00e9n\u00e9ralement le mot \u00ab hallucination \u00bb aux exp\u00e9riences humaines, dans le contexte de l\u2019IA, il a \u00e9t\u00e9 utilis\u00e9 comme analogie. La principale diff\u00e9rence est que les hallucinations d\u2019une IA sont li\u00e9es \u00e0 des r\u00e9ponses ou \u00e0 des croyances incorrectes, plut\u00f4t qu\u2019\u00e0 des exp\u00e9riences perceptuelles ou sensorielles.<\/p>\n

Par exemple, un chatbot aliment\u00e9 par de grands mod\u00e8les de langage (LLM), tels que ChatGPT, peut inclure des mensonges al\u00e9atoires et plausibles dans celui g\u00e9n\u00e9r\u00e9.<\/p>\n

Selon une \u00e9tude r\u00e9cente men\u00e9e par des chercheurs de Cornell, tous les mod\u00e8les d\u2019IA g\u00e9n\u00e9rative vous \u00e9poustouflent. Cependant, tout le monde ne le fait pas au m\u00eame rythme, et la v\u00e9racit\u00e9 de leurs affirmations d\u00e9pend des sources d\u2019information auxquelles ils ont \u00e9t\u00e9 expos\u00e9s.<\/p>\n

L’\u00e9tude a \u00e9valu\u00e9 plusieurs mod\u00e8les populaires, notamment GPT-4o, Llama 3 70B, Mixtral 8x22B, entre autres. \u00c9tonnamment, m\u00eame les mod\u00e8les les plus grands et les plus avanc\u00e9s, tels que le GPT-4o, ne g\u00e9n\u00e8rent du texte sans hallucinations qu\u2019environ 35 % du temps.<\/p>\n

Comment et pourquoi les hallucinations de l’IA se produisent-elles\u00a0?<\/h2>\n

Les hallucinations se produisent lorsqu’un mod\u00e8le d’IA, tel qu’un r\u00e9seau neuronal, produit des r\u00e9sultats qui ne sont pas directement li\u00e9s aux entr\u00e9es fournies. Ces r\u00e9sultats peuvent \u00eatre des motifs, des objets ou m\u00eame du texte auquel nous ne nous attendions pas ou qui n’ont aucun sens.<\/p>\n

Les IA actuelles (bas\u00e9es sur l\u2019architecture des transformateurs) sont sujettes aux hallucinations en raison de la mani\u00e8re dont elles apprennent des donn\u00e9es. Pendant la formation, les mod\u00e8les tentent de capturer des mod\u00e8les dans les donn\u00e9es, mais parfois ils extrapolent ou comblent les lacunes de mani\u00e8re incorrecte.<\/p>\n

Voici quelques facteurs qui peuvent contribuer aux hallucinations\u00a0:<\/p>\n