Il ne fait aucun doute que l’essor des modèles linguistiques à grande échelle (LLM) a multiplié la quantité de contenus écrits avec les IA, grâce à leur capacité à générer des textes fluides et cohérents.
Cela a soulevé des inquiétudes quant à l’authenticité des informations et au risque de désinformation, car il est difficile de faire la distinction entre un texte humain et un texte généré par l’IA.
Pour répondre à ce problème, l’équipe de Google DeepMind a développé SynthID, un outil issu de l’écosystème d’innovation Gemini (filigrane) qui permet d’identifier avec précision si un contenu a été créé par un modèle d’intelligence artificielle.
De plus, ils ont récemment publié la technologie derrière SynthID pour le texte, afin qu’elle puisse être utilisée publiquement et gratuitement.
Dans cet article, nous expliquons comment fonctionne SynthID for text, quelles sont ses limites et pourquoi l’identification du contenu généré par l’IA est cruciale pour garantir une utilisation sûre et responsable de ces technologies.
Qu’est-ce que SynthID-Text et comment ça marche ?
SynthID-Text est un système de filigrane qui vous permet d’identifier si un texte a été généré par un modèle d’IA, sans compromettre la qualité du contenu ni augmenter significativement les coûts de traitement.
Contrairement à d’autres méthodes, cette approche est intégrée lors du processus de génération de texte, permettant d’ajouter un balisage imperceptible sans qu’il soit nécessaire de modifier le modèle de langage sous-jacent.
SynthID-Text utilise un processus appelé Tournament Sampling, qui modifie subtilement la sélection de mots qui composent le texte généré.
Au lieu de simplement choisir le jeton avec la probabilité la plus élevée, l’algorithme ajuste la probabilité des mots sélectionnés, introduisant un modèle statistique qui fonctionne comme un filigrane.
Ce modèle est indétectable pour les lecteurs humains et n’affecte pas la cohérence ou la qualité du texte.
Le plus important est que, pendant la phase de détection, cette marque peut être identifiée sans qu’il soit nécessaire d’effectuer des opérations informatiques complexes ni d’avoir accès au modèle original, ce qui constitue un avantage dans les environnements de production.
Un exemple du fonctionnement de SynthID-Text
Imaginez qu’ils utilisent un modèle de langage, comme Google Gemini, intégrant SynthID. Imaginons également que vous souhaitiez générer un article sur la durabilité environnementale.
Lors de la génération du texte, le modèle linguistique attribue des probabilités à chaque mot en fonction du contexte et du texte généré jusqu’à présent.
Par exemple, si la phrase en cours de construction est « La durabilité est importante parce que », le modèle pourrait attribuer des probabilités élevées à des mots comme « réduit », « favorise » ou « augmente ». C’est là que le processus d’échantillonnage de tournoi entre en jeu.
Au lieu de sélectionner uniquement le mot le plus probable, le système introduit des modifications subtiles dans les probabilités de sélection des mots pour injecter un filigrane.
Par exemple, le mot « réduit » peut avoir une probabilité de 60 %, tandis que « promeut » est défini sur 25 % et « augmente » est défini sur 15 %.
Avec le filigrane, le modèle SynthID pourrait ajuster les probabilités de sorte que « réduit » devienne 57 %, « promeut » devienne 28 % et « augmente » devienne 15 %. Cette légère modification introduit un modèle qui sera utile pour une détection ultérieure.
Lorsque quelqu’un examine ce texte et souhaite vérifier s’il a été généré par un modèle d’IA utilisant SynthID-Text, un algorithme de détection est appliqué pour analyser le modèle statistique du texte.
Cet algorithme peut mesurer la « signature » du texte et déterminer s’il répond aux caractéristiques du filigranage mis en œuvre.
Si la détection réussit, le système confirmera que le texte a été généré par un modèle utilisant la technologie SynthID-Text, permettant ainsi d’identifier son origine sans nécessiter d’accès au modèle original.
L’importance de marquer les textes générés avec l’IA
Le marquage des textes générés par l’IA répond aux défis posés par l’utilisation massive de ces technologies.
Tout d’abord, nous avons confiance dans l’information. La présence croissante de textes générés par l’IA présente le risque de propagation de contenus sans attribution claire. Identifier son origine est essentiel pour maintenir la transparence.
Sans système d’identification efficace, les modèles linguistiques peuvent être utilisés pour diffuser de la désinformation ou générer du contenu malveillant, tel que du spam ou du phishing.
Dans certains contextes, comme l’éducation et la recherche scientifique, il est important de savoir si un texte a été produit par une personne ou par un modèle d’IA pour éviter la fraude et garantir son originalité.
Enfin, il existe des défis réglementaires potentiels. Dans un avenir proche, les gouvernements pourraient exiger des entreprises qu’elles identifient lorsqu’elles utilisent du contenu généré par l’IA.
La mise en œuvre dès maintenant du filigrane permettra aux organisations d’anticiper ces demandes et d’encourager une utilisation responsable.
Limitations et défis du filigrane avec SynthID
Malgré ses avantages, SynthID-Text n’est pas une solution infaillible. L’utilisation de toute méthode de filigrane présente des défis inhérents.
Bien que le filigrane soit subtil, un utilisateur malveillant pourrait modifier le texte pour tenter d’effacer le filigrane sans affecter la cohérence. Google affirme que la marque résiste aux modifications légères et au recadrage de texte.
D’autre part, SynthID-Text se concentre sur l’identification de textes générés par des modèles Google spécifiques, ce qui implique que son utilisation généralisée nécessitera une coopération entre différents développeurs d’IA pour établir une norme commune.
Enfin, même si le système s’est avéré sécuritaire et efficace, son efficacité pourrait diminuer lorsqu’il est appliqué à des modèles autres que ceux pour lesquels il a été conçu.
Le texte n’est que le début
La sortie de SynthID par Google marque un précédent important dans l’industrie, avec l’espoir qu’il sera possible d’intégrer des techniques de tatouage sans compromettre l’expérience utilisateur.
En fin de compte, la capacité d’identifier et d’attribuer le texte généré par l’IA sera essentielle au maintien de la transparence et de la confiance dans l’écosystème numérique actuel. Et bientôt, nous aurons des outils similaires pour l’audio, les images et la vidéo.
Dans un monde où l’IA est de plus en plus présente dans nos vies, des outils comme celui-ci sont essentiels pour garantir une utilisation sûre et éthique de la technologie.
This post is also available in: