En la era digital actual, la línea entre humanos y máquinas se está volviendo cada vez más difusa. La inteligencia artificial (IA) ha avanzado tanto que ahora puede generar texto, imágenes y vídeos que son prácticamente indistinguibles de los creados por humanos.
Cette avancée pose un défi important aux méthodes de vérification traditionnelles, comme les CAPTCHA, qui ne suffisent plus à garantir que quiconque interagit en ligne est bien une personne.
Un exemple récent et convaincant de ce problème est le cas de Reddit, où des chercheurs de l’Université de Zurich ont utilisé des robots IA pour publier plus de 1 700 commentaires dans le sous-reddit « Change My View », trompant ainsi les utilisateurs et les modérateurs.
Cet incident met non seulement en évidence la capacité de l’IA à manipuler les discussions en ligne, mais souligne également l’urgence de développer de nouvelles méthodes de vérification résistantes à ces technologies.
L’IA et l’obsolescence des méthodes traditionnelles
L’IA générative a franchi un seuil critique. Puisqu’il facilite non seulement la création de deepfakes et de faux contenus, il permet également à des acteurs malveillants d’accéder à des plateformes qui étaient auparavant protégées par des méthodes de vérification plus simples.
Dans le cas de Reddit, les robots IA ont non seulement publié des commentaires, mais ont également adopté des personnages fictifs, tels que des victimes de viol ou des militants contre le mouvement Black Lives Matter, pour influencer les opinions des utilisateurs.
Ce type de manipulation non seulement fausse les discussions, mais érode également la confiance dans l’authenticité du contenu en ligne. **
Selon un rapport d’iProov, les attaques par échange de visage ont augmenté de 704 % entre le premier et le second semestre 2023, soulignant la sophistication croissante des attaques basées sur l’IA.
De plus, la prolifération de ces technologies met en danger la sécurité des transactions financières, l’accès aux services gouvernementaux et l’intégrité des réseaux sociaux, puisque les robots peuvent être utilisés pour commettre des fraudes, diffuser de la désinformation ou même mener des attaques plus sophistiquées comme le phishing.
Méthodes de vérification résistantes à l’IA
Dans ce contexte, les entreprises et les développeurs travaillent à la mise en œuvre de méthodes de vérification plus avancées et plus sécurisées. Voici quelques-unes des stratégies les plus prometteuses :
Authentification biométrique
La biométrie utilise les caractéristiques uniques de l’individu, telles que la reconnaissance faciale, le balayage de l’iris ou les empreintes digitales, pour vérifier l’identité.
Pour empêcher l’utilisation de deepfakes, une détection de vivacité est intégrée, qui vérifie si la personne est physiquement présente au moment de la vérification. Cela peut inclure demander à l’utilisateur d’effectuer certaines actions, comme bouger la tête ou cligner des yeux, pour confirmer qu’il ne s’agit pas d’une image statique ou d’une vidéo préenregistrée.
Exemple pratique : Stripe Identity utilise la reconnaissance faciale avec détection d’activité pour vérifier les identités, garantissant ainsi que le selfie fourni est celui d’une personne réelle et non d’une image falsifiée.
Biométrie comportementale
Cette méthode analyse les modèles de comportement des utilisateurs, tels que la vitesse de frappe, les mouvements de la souris ou la marche (sur les appareils mobiles).
Étant donné que ces modèles sont intrinsèquement incohérents et difficiles à reproduire, ils constituent une barrière efficace contre l’IA. L’IA s’efforce d’imiter les variations naturelles du comportement humain, ce qui rend cette méthode particulièrement robuste.
Exemple pratique : FTX Identity utilise la biométrie comportementale pour détecter les robots, analysant les modèles d’interaction propres à chaque utilisateur.
Vérification multimodale
Celui-ci combine plusieurs méthodes de vérification, telles que la biométrie, l’analyse de documents et la biométrie comportementale, pour accroître la sécurité.
Cela nécessite que l’IA surmonte plusieurs obstacles simultanément, ce qui la rend beaucoup plus difficile à déjouer. Par exemple, un système peut exiger que l’utilisateur présente un document officiel, effectue une vérification biométrique et réussisse un test comportemental.
Exemple pratique : Reddit prévoit de travailler avec des services tiers tels que Persona, Alloy, Stripe Identity, Plaid et Footprint, qui intègrent la vérification multimodale pour garantir « l’humanité » des utilisateurs.
Blockchain pour la vérification d’identité
La technologie Blockchain permet la création d’identités numériques décentralisées, où les utilisateurs contrôlent leurs propres informations d’identité.
Les informations d’identification vérifiables, stockées dans un portefeuille numérique, peuvent être partagées de manière sélective avec des tiers, garantissant ainsi que seules les informations nécessaires sont révélées.
La blockchain étant immuable et transparente, toute tentative de contrefaçon serait immédiatement détectable. Cela garantit que les identités numériques sont fiables et infalsifiables.
Exemple pratique : Telefonica Tech explore l’utilisation de la blockchain pour une identité auto-souveraine, permettant aux utilisateurs de vérifier leur identité sans révéler de données sensibles (Blockchain Identity).
Détection de contenu généré par l’IA
Des outils spécialisés peuvent détecter si un texte, une image, un audio ou une vidéo a été généré par l’IA, en utilisant des algorithmes d’apprentissage automatique pour identifier les modèles et les caractéristiques typiques de la génération automatique.
Ces outils aident à filtrer le contenu indésirable, garantissant ainsi l’authenticité des interactions en ligne.
Exemple pratique : des outils comme SynthID de Google peuvent identifier le texte généré par des modèles comme ChatGPT, Gemini ou Claude avec une grande précision.
L’avenir de la vérification en ligne
Les technologies émergentes telles que l’analyse oculaire ou la biométrie neuronale pourraient devenir des normes dans un avenir proche.
Par exemple, le dispositif de numérisation oculaire Orb de Tools for Humanity (une startup de Sam Altman) promet une vérification plus robuste de l’humanité en exigeant des données biométriques uniques et une présence physique.
Cependant, ces avancées posent également des problèmes d’éthique et de confidentialité car elles impliquent la collecte et le stockage de données biométriques sensibles.
De plus, éduquer les utilisateurs sur les risques de l’IA et sur la manière de se protéger sera essentiel au maintien d’un écosystème numérique sûr et digne de confiance.
Une seule chose est sûre : la bataille entre les humains et les robots IA dans le domaine de la vérification n’est que le début d’une course aux armements technologiques.
En fin de compte, l’objectif est de créer un environnement numérique où l’authenticité et la confiance sont la norme, et non l’exception, garantissant que les interactions en ligne restent un domaine humain, et non une simulation générée par une machine.
This post is also available in: