L’intelligence artificielle ne cesse de nous surprendre, et pas toujours pour le meilleur. Cette semaine, DeepSeek, un laboratoire d’IA chinois bien financé, a lancé son modèle DeepSeek V3, conçu pour des tâches complexes telles que la programmation et l’écriture.
Le modèle s’est avéré efficace et compétitif lors des tests de benchmark, mais il a également montré un défaut particulier : il est convaincu qu’il s’agit de ChatGPT, le célèbre chatbot OpenAI.
La « crise d’identité » DeepSeek V3
Les utilisateurs des réseaux sociaux et les experts en technologie ont partagé des tests où DeepSeek V3 se présente non seulement comme ChatGPT, mais insiste sur le fait qu’il s’agit d’une version de GPT-4 publiée par OpenAI en 2023.
Lorsqu’on lui demande des instructions relatives à DeepSeek, il répond avec des informations sur les API OpenAI. Il raconte même les mêmes blagues que GPT-4, reproduisant leurs punchlines.
Ce comportement erroné a suscité à la fois des rires et des inquiétudes. Alors que les réseaux sociaux se remplissent de mèmes sur la « crise d’identité » des modèles, les experts en IA mettent en garde contre les problèmes liés à la formation des modèles et à l’intégrité des données.
L’origine du problème
DeepSeek n’a pas révélé beaucoup de détails sur les sources de données utilisées pour entraîner la V3. Cependant, il semble que le modèle ait été exposé à des textes générés par ChatGPT ou GPT-4.
Cela aurait pu se produire accidentellement, mais il pourrait également s’agir d’une stratégie délibérée visant à exploiter les connaissances d’un autre modèle.
Mike Cook, chercheur en intelligence artificielle au King’s College de Londres, a comparé cette situation à la photocopie d’une photocopie : « Chaque fois que nous reproduisons quelque chose sans la source originale, nous perdons des informations et le lien avec la réalité. »
Le résultat est un modèle qui non seulement imite les réponses de l’original, mais hérite également de ses erreurs et biais.
L’utilisation des données générées par ChatGPT pourrait également violer les conditions de service d’OpenAI, qui interdisent d’utiliser ses sorties pour former des modèles concurrents de ses produits.
Il va sans dire que ce problème, s’il s’avère avéré, soulève des questions juridiques sur la transparence et les pratiques éthiques dans le développement de l’IA.
Un problème de contamination des données
Le cas DeepSeek V3 reflète un problème plus large dans l’industrie de l’IA : la contamination des données. Avec l’utilisation croissante de modèles génératifs, le Web est saturé de contenu généré par l’IA.
On estime que d’ici 2026, 90 % du contenu en ligne pourrait être créé par des systèmes automatisés. Cette situation rend difficile le filtrage correct des données utilisées pour former de nouveaux modèles.
Lorsque les modèles d’IA absorbent les données générées par d’autres modèles, il existe un risque de créer un cycle d’erreurs et de biais.
Heidy Khlaaf, directrice scientifique de l’IA à l’AI Now Institute, a expliqué que les développeurs pourraient être tentés de recourir à ces pratiques pour réduire les coûts, même si cela compromet la qualité du modèle.
Réactions de l’industrie
L’industrie n’a pas tardé à s’exprimer. Sam Altman, PDG d’OpenAI, publié sur
D’un autre côté, DeepSeek n’est pas le seul modèle à avoir montré des comportements similaires. Google Gemini, par exemple, a également été identifié à tort comme d’autres systèmes, tels que le chatbot chinois Wenxinyiyan de Baidu.
Cela suggère que le problème n’est pas propre à DeepSeek, mais plutôt une conséquence répandue de la formation de modèles avec des données contaminées.
Implications éthiques et juridiques
L’incident DeepSeek V3 souligne l’urgence d’établir des réglementations plus strictes sur la collecte et l’utilisation des données pour entraîner l’IA.
Sans un cadre juridique clair, les entreprises pourraient être confrontées à des litiges coûteux et à une perte de confiance du public.
De plus, ces types d’incidents affectent la réputation de l’ensemble du secteur. Si l’on ne peut pas faire confiance aux modèles d’IA, même pour identifier leur propre origine, comment pourront-ils gagner la confiance dans des secteurs critiques tels que la santé ou la finance ?
L’avenir de l’IA après l’incident
La controverse pourrait accélérer le développement de technologies d’atténuation des erreurs, telles que Recovery Augmented Generation Verification (RAG-V).
Ces solutions cherchent à intégrer des étapes de vérification qui améliorent la précision et la fiabilité des réponses générées par l’IA.
Toutefois, les solutions technologiques ne suffisent pas. Il est essentiel que les entreprises adoptent des pratiques éthiques et transparentes dans le développement de modèles. Cela comprend :
- Réviser et nettoyer les données de formation.
- Respecter les conditions d’utilisation des autres modèles.
- Mettre en œuvre des contrôles de qualité rigoureux avant le lancement du produit.
Juste la pointe d’un iceberg
Le cas de DeepSeek V3, qui « s’auto-perçoit » comme ChatGPT, rappelle les enjeux et les risques liés à la concurrence dans le domaine de l’IA.
Nous ne doutons pas que des comportements similaires se manifesteront dans les mois à venir, et on parlera même de stagnation dans l’industrie de l’IA.
Même si les réseaux sociaux peuvent se moquer de la situation, les implications juridiques, éthiques et technologiques sont graves. L’industrie de l’IA doit s’attaquer de toute urgence à ces problèmes pour éviter de nuire davantage à sa réputation et à sa crédibilité.
This post is also available in: