Lors du récent AI Action Summit qui s’est tenu à Paris, Yann LeCun, figure clé du développement de l’intelligence artificielle et pionnier des réseaux de neurones, a lancé une critique virulente des modèles de langage à grande échelle (LLM), tels que ceux qui dominent aujourd’hui le paysage de l’IA.
Selon LeCun, ces modèles, bien qu’impressionnants dans les tâches linguistiques, ne possèdent pas les capacités nécessaires pour atteindre une intelligence comparable à celle des humains.
Plus précisément, il a souligné quatre déficiences principales : ils ne comprennent pas le monde physique, ils manquent de mémoire persistante, ils ne raisonnent pas efficacement et ils sont incapables de planifier des actions complexes de manière hiérarchique.
Pour surmonter ces limitations, il propose le développement de World Models, des systèmes qui simulent plus complètement le monde réel.
Ces déclarations reflètent non seulement un point de vue critique sur l’état actuel de l’IA, mais ouvrent également la voie à un nouveau paradigme de recherche. Mais qu’est-ce qui amène LeCun à dire cela ?
Limites des modèles linguistiques à grande échelle (LLM)
Les LLM, comme le GPT-4o d’OpenAI ou le Llama 4 de Meta, sont des modèles d’IA basés sur des réseaux de neurones, notamment dans l’architecture **transformer (c’est le « T » de GPT).
Entraînés avec d’énormes quantités de texte, ces systèmes se distinguent par leur capacité à générer un texte cohérent, à répondre à des questions ou à traduire des langues. Cependant, sa dépendance exclusive à l’égard du langage écrit révèle de sérieuses limites.
Comprendre le monde physique
Bien qu’un LLM puisse décrire qu’« un objet tombe à cause de la gravité », il lui manque une expérience sensorielle directe. Il ne perçoit pas la texture, le poids ou la résistance de l’air ; il associe simplement des mots et des modèles statistiques. Ce manque l’éloigne de l’intuition fondamentale que même un animal sans formation formelle applique lorsqu’il interagit avec son environnement.
Mémoire persistante
Chaque candidature à un LLM est essentiellement traitée comme une interaction isolée. Bien qu’ils puissent maintenir le contexte au cours d’une seule séance, ils n’intègrent pas de manière continue l’apprentissage des conversations précédentes. L’humain, quant à lui, construit une richesse d’expériences qui guident son comportement et lui permettent de s’adapter sur le long terme.
Raisonnement limité
Les LLM sont basés sur des corrélations apprises pour générer des réponses « logiques », mais ils ne mettent pas en œuvre un processus déductif authentique et ne comprennent pas non plus les relations de cause à effet. Ils peuvent associer le soleil au lever du soleil parce qu’ils ont vu ce motif dans des milliers de textes, mais ils n’expliquent pas pourquoi cela se produit, et ils n’en tirent pas non plus de principes universels qui transcendent les exemples vus.
Incapacité de planifier
Face à des tâches complexes (comme planifier un voyage, concevoir une stratégie commerciale ou coordonner les actions d’un robot), les LLM ne décomposent pas les problèmes en étapes hiérarchiques. Leur approche est essentiellement réactive : ils répondent à des indications immédiates sans établir de plan global ni anticiper les conséquences à moyen et long terme.
Ces limitations reflètent le paradoxe de Moravec, qui met en évidence la facilité avec laquelle l’IA actuelle s’attaque à des tâches abstraites (le langage) et la difficulté avec laquelle elle trouve les fonctions perceptuelles et motrices que les humains et les animaux exécutent presque automatiquement.
World Models : une alternative prometteuse
Face aux limites des LLM, LeCun prône les World Models, des systèmes conçus pour créer des représentations internes du monde réel.
Les modèles mondiaux sont des systèmes conçus pour reconstruire en interne la dynamique de l’environnement réel. Au lieu de se limiter au langage, ils intègrent des données hétérogènes (images, audio, vidéo, capteurs physiques) pour apprendre les lois qui régissent le monde : la gravité, la friction, la causalité et les transformations spatiales.
Avantages clés
- Compréhension physique : En traitant les informations sensorielles directes, un modèle mondial peut prédire comment une balle va rouler, comment un objet se déforme en cas de collision ou comment un liquide s’écoule, simulant les lois physiques dans un « laboratoire virtuel ».
- Mémoire à long terme : Ils maintiennent un état interne qui évolue à chaque interaction, permettant un apprentissage continu et l’affinement des modèles en fonction de nouvelles expériences.
- Raisonnement causal : Lors de la construction de représentations de cause à effet, ils ne se contentent pas de corrélations ; Ils peuvent expliquer pourquoi un changement dans l’environnement produit un certain résultat.
- Planification stratégique : Cette capacité de simulation interne leur permet de décomposer des tâches complexes en sous-tâches et d’évaluer différentes voies d’action, cruciales en robotique, en automatisation et en véhicules autonomes.
Un exemple notable est Cosmos de NVIDIA, qui utilise des modèles mondiaux pour créer des scénarios physiques variés dans lesquels des robots et des véhicules autonomes répètent des manœuvres, anticipent les obstacles et apprennent à réagir à de nouvelles situations.
Comment les LLM et les World Models se comparent-ils ?
Pour clarifier les différences, les LLM s’appuient exclusivement sur le texte et se concentrent sur les modèles linguistiques, tandis que les World Models intègrent des données sensorielles pour modéliser le monde physique.
Les premiers manquent de mémoire persistante et de raisonnement approfondi, se limitant à des tâches telles que les chatbots ou les traductions. En revanche, ces derniers offrent une base solide pour les systèmes devant interagir avec l’environnement, comme les robots ou les simulateurs.
Cette distinction souligne pourquoi LeCun considère les modèles mondiaux comme une avancée nécessaire.
Défis et avenir des modèles mondiaux
Bien que prometteurs, les modèles mondiaux sont confrontés à des défis. Ils nécessitent de grands volumes de données sensorielles et une puissance de calcul importante, tout en garantissant leur généralisation à de nouvelles situations.
Certains experts se demandent si cette approche est véritablement innovante, mais les progrès du matériel et des données la rendent aujourd’hui viable. Des projets tels que le V-JEPA de Meta ou les simulateurs de DeepMind montrent que cette direction gagne du terrain.
Les mots de Yann LeCun à Paris illustrent un tournant dans l’IA : les LLM, bien qu’extraordinaires en termes de traitement du langage, ne parviennent pas à imiter une intelligence complète, avec un sens physique, une mémoire durable, un raisonnement approfondi et une planification stratégique.
Les Modèles mondiaux apparaissent comme le moyen de surmonter ces obstacles, en proposant des simulations riches qui relient la théorie statistique à l’expérience empirique.
This post is also available in: