Dans le domaine de l’intelligence artificielle (IA), le terme hallucinations est utilisé pour décrire des situations dans lesquelles des modèles linguistiques génèrent des informations incorrectes ou fictives, mais les présentent comme si elles étaient vraies.
Ce phénomène représente un défi crucial, surtout lorsque l’IA est appliquée dans des domaines sensibles comme la médecine, le droit ou l’éducation.
Dans ce contexte, Dario Amodei, PDG d’Anthropic, a fait des déclarations qui ont suscité un débat dans l’industrie. Lors de l’événement Code with Claude, Amodei a déclaré que les modèles d’IA « hallucinent probablement moins que les humains, mais ils le font de manière plus surprenante ».
Explorons en détail ses déclarations et les implications intéressantes que cela peut avoir.
Qu’a dit exactement Dario Amodei ?
Lors de l’événement Code with Claude, organisé par Anthropic à San Francisco, Dario Amodei a répondu à une question sur les hallucinations dans les modèles de langage.
Lors de sa réponse, le responsable a déclaré : « Les modèles d’IA hallucinent probablement moins que les humains, mais ils le font de manière plus surprenante. » Cette affirmation, qui compare directement les performances des machines à celles des humains, n’est pas passée inaperçue et a suscité à la fois intérêt et scepticisme.
Amodei a également lié cette idée à sa vision de l’avenir de l’IA. Il a réitéré sa prédiction selon laquelle l’AGI pourrait être atteint en 2026, sur la base d’un article qu’il a publié l’année précédente.
Il a utilisé une métaphore révélatrice : « L’eau monte partout », suggérant que les progrès technologiques se produisent à grande échelle et rapidement. La déclaration d’Amodei reflète une grande confiance dans la capacité de l’IA à surmonter ses limites actuelles, notamment la propension à halluciner.
Que sont les hallucinations dans l’IA ?
Les hallucinations dans les modèles de langage surviennent lorsqu’une IA génère des réponses qui semblent plausibles mais qui sont erronées, fictives ou n’ont aucun fondement dans la réalité. Par exemple, vous pouvez inventer des références bibliographiques, des événements historiques inexistants ou des explications techniques erronées.
Un cas récent illustre la gravité du problème : un avocat d’Anthropic a dû s’excuser devant le tribunal après avoir soumis une fausse citation légale générée par le modèle de l’entreprise, Claude, qui comprenait des noms et des références juridiques inventés.
Les causes des hallucinations sont multiples. Ceux-ci incluent les biais ou les erreurs dans les données de formation, le manque de contexte spécifique et les limites de l’architecture du modèle.
Bien que des progrès importants aient été réalisés, les hallucinations continuent de représenter un défi, notamment dans des contextes où la précision est essentielle.
Les humains ou l’IA hallucinent-ils davantage ?
Pour évaluer les affirmations d’Amodei, il convient d’analyser les études comparant les performances de l’IA à celles des humains. Dans le domaine de la santé par exemple, l’IA a fait preuve d’une grande précision.
Une méta-analyse de 2014 a déterminé qu’environ 5,08 % des patients en soins primaires aux États-Unis font l’objet d’un diagnostic erroné (PMC). En revanche, certains modèles d’IA ont atteint une précision de 95 % dans les diagnostics liés au diabète.
Cependant, dans des tâches telles que la génération de références bibliographiques, les erreurs sont fréquentes. Une étude publiée dans JMIR a rapporté que des modèles comme ChatGPT-3.5 et 4 commettent des erreurs dans 29 à 40 % des citations.
Dans le domaine du journalisme, une étude de 2005 a révélé que 61 % des articles parus dans les journaux américains contenaient des erreurs factuelles, avec une moyenne de trois erreurs par article erroné.
Ces erreurs humaines sont souvent dues à la négligence ou à un malentendu, tandis que les modèles d’IA peuvent générer des mensonges complets avec une sécurité apparente.
En bref, même si l’IA surpasse les humains dans certains contextes, l’affirmation d’Amodei ne peut pas être considérée comme universellement vraie. Le manque d’études comparatives directes entre hallucinations humaines et artificielles laisse la question ouverte.
Opinions divergentes parmi les experts
Les propos d’Amodei ont suscité diverses réactions parmi les professionnels du secteur. Certains partagent son optimisme. Selon UX Tigers, les modèles d’IA plus avancés affichent des taux d’hallucinations plus faibles grâce à des techniques d’entraînement plus raffinées.
Cependant, d’autres ne sont pas d’accord. Demis Hassabis, PDG de Google DeepMind, a averti que les modèles actuels présentent des lacunes importantes et échouent même sur des questions fondamentales.
De plus, le New Scientist a publié un rapport en mai 2025 avertissant que les hallucinations s’aggravent dans certains modèles récents conçus pour des tâches de raisonnement complexes.
Avancées dans la réduction des hallucinations
Pour résoudre ce problème, la communauté technologique a développé diverses stratégies. L’un des plus remarquables est la Retrieval Augmented Generation (RAG), qui permet aux modèles de consulter des sources externes lors de la génération de réponses.
Une étude de Stanford publiée en 2024 montrait que cette technique, combinée à d’autres, réduisait les hallucinations de 96 %.
Des méthodes telles que l’apprentissage par renforcement avec feedback humain (RLHF) sont également utilisées, qui entraînent les modèles à prioriser des réponses plus véridiques.
Les graphes de connaissances (KG) fournissent un contexte structuré qui réduit les erreurs, et des techniques telles que la chaîne de pensée ** (CoT) favorisent un raisonnement étape par étape qui améliore la transparence du modèle.
Une autre stratégie émergente consiste à former les modèles à reconnaître leurs propres limites et à être capables de répondre « Je ne sais pas » plutôt que d’inventer une réponse. Cette approche contribue à réduire la propagation de la désinformation (Forbes).
Cependant, la solution définitive dépend encore du contexte d’utilisation et du degré de vérification externe disponible.
Pas de consensus scientifique
Les opinions au sein du secteur sont variées et les avancées techniques, bien que prometteuses, ne résolvent pas complètement le problème. Par conséquent, une approche rigoureuse, interdisciplinaire et critique est nécessaire pour garantir que l’IA soit non seulement puissante, mais aussi digne de confiance.
À l’approche du développement possible de l’AGI, le contrôle des hallucinations sera essentiel pour instaurer la confiance dans la technologie et garantir son intégration responsable dans la société.
This post is also available in: