Il ne fait aucun doute que l\u2019essor des mod\u00e8les linguistiques \u00e0 grande \u00e9chelle (LLM) a multipli\u00e9 la quantit\u00e9 de contenus \u00e9crits avec les IA, gr\u00e2ce \u00e0 leur capacit\u00e9 \u00e0 g\u00e9n\u00e9rer des textes fluides et coh\u00e9rents.<\/p>\n
Cela a soulev\u00e9 des inqui\u00e9tudes quant \u00e0 l\u2019authenticit\u00e9 des informations et au risque de d\u00e9sinformation, car il est difficile de faire la distinction entre un texte humain et un texte g\u00e9n\u00e9r\u00e9 par l\u2019IA.<\/p>\n
Pour r\u00e9pondre \u00e0 ce probl\u00e8me, l’\u00e9quipe de Google DeepMind a d\u00e9velopp\u00e9 SynthID, un outil issu de l’\u00e9cosyst\u00e8me d’innovation Gemini (filigrane) qui permet d’identifier avec pr\u00e9cision si un contenu a \u00e9t\u00e9 cr\u00e9\u00e9 par un mod\u00e8le d’intelligence artificielle.<\/p>\n
De plus, ils ont r\u00e9cemment publi\u00e9 la technologie derri\u00e8re SynthID pour le texte<\/strong>, afin qu’elle puisse \u00eatre utilis\u00e9e publiquement et gratuitement.<\/p>\n Dans cet article, nous expliquons comment fonctionne SynthID for text, quelles sont ses limites et pourquoi l’identification du contenu g\u00e9n\u00e9r\u00e9 par l’IA est cruciale pour garantir une utilisation s\u00fbre et responsable de ces technologies.<\/p>\n SynthID-Text est un syst\u00e8me de filigrane qui vous permet d’identifier si un texte a \u00e9t\u00e9 g\u00e9n\u00e9r\u00e9 par un mod\u00e8le d’IA<\/strong>, sans compromettre la qualit\u00e9 du contenu ni augmenter significativement les co\u00fbts de traitement.<\/p>\n Contrairement \u00e0 d’autres m\u00e9thodes, cette approche est int\u00e9gr\u00e9e lors du processus de g\u00e9n\u00e9ration de texte<\/strong>, permettant d’ajouter un balisage imperceptible sans qu’il soit n\u00e9cessaire de modifier le mod\u00e8le de langage sous-jacent.<\/p>\n SynthID-Text utilise un processus appel\u00e9 Tournament Sampling, qui modifie subtilement la s\u00e9lection de mots qui composent le texte g\u00e9n\u00e9r\u00e9.<\/p>\n Au lieu de simplement choisir le jeton avec la probabilit\u00e9 la plus \u00e9lev\u00e9e, l’algorithme ajuste la probabilit\u00e9 des mots s\u00e9lectionn\u00e9s<\/strong>, introduisant un mod\u00e8le statistique qui fonctionne comme un filigrane.<\/p>\n Ce mod\u00e8le est ind\u00e9tectable pour les lecteurs humains et n\u2019affecte pas la coh\u00e9rence ou la qualit\u00e9 du texte.<\/p>\n Le plus important est que, pendant la phase de d\u00e9tection, cette marque peut \u00eatre identifi\u00e9e sans qu’il soit n\u00e9cessaire d’effectuer des op\u00e9rations informatiques complexes<\/strong> ni d’avoir acc\u00e8s au mod\u00e8le original, ce qui constitue un avantage dans les environnements de production.<\/p>\n Imaginez qu’ils utilisent un mod\u00e8le de langage, comme Google Gemini, int\u00e9grant SynthID.\u00a0Imaginons \u00e9galement que vous souhaitiez g\u00e9n\u00e9rer un article sur la durabilit\u00e9 environnementale.<\/p>\n Lors de la g\u00e9n\u00e9ration du texte, le mod\u00e8le linguistique attribue des probabilit\u00e9s \u00e0 chaque mot en fonction du contexte et du texte g\u00e9n\u00e9r\u00e9 jusqu’\u00e0 pr\u00e9sent.<\/p>\n Par exemple, si la phrase en cours de construction est \u00ab La durabilit\u00e9 est importante parce que \u00bb, le mod\u00e8le pourrait attribuer des probabilit\u00e9s \u00e9lev\u00e9es \u00e0 des mots comme \u00ab r\u00e9duit \u00bb, \u00ab favorise \u00bb ou \u00ab augmente \u00bb. C’est l\u00e0 que le processus d’\u00e9chantillonnage de tournoi<\/strong> entre en jeu.<\/p>\n Au lieu de s\u00e9lectionner uniquement le mot le plus probable, le syst\u00e8me introduit des modifications subtiles dans les probabilit\u00e9s de s\u00e9lection des mots pour injecter un filigrane.<\/p>\n Par exemple, le mot \u00ab\u00a0r\u00e9duit\u00a0\u00bb peut avoir une probabilit\u00e9 de 60\u00a0%, tandis que \u00ab\u00a0promeut\u00a0\u00bb est d\u00e9fini sur 25\u00a0% et \u00ab\u00a0augmente\u00a0\u00bb est d\u00e9fini sur 15\u00a0%.<\/p>\n Avec le filigrane, le mod\u00e8le SynthID pourrait ajuster les probabilit\u00e9s<\/strong> de sorte que \u00ab\u00a0r\u00e9duit\u00a0\u00bb devienne 57\u00a0%, \u00ab\u00a0promeut\u00a0\u00bb devienne 28\u00a0% et \u00ab\u00a0augmente\u00a0\u00bb devienne 15\u00a0%. Cette l\u00e9g\u00e8re modification introduit un mod\u00e8le qui sera utile pour une d\u00e9tection ult\u00e9rieure.<\/p>\n Lorsque quelqu’un examine ce texte et souhaite v\u00e9rifier s’il a \u00e9t\u00e9 g\u00e9n\u00e9r\u00e9 par un mod\u00e8le d’IA utilisant SynthID-Text, un algorithme de d\u00e9tection est appliqu\u00e9 pour analyser le mod\u00e8le statistique du texte.<\/p>\n Cet algorithme peut mesurer la \u00ab signature \u00bb du texte et d\u00e9terminer s’il r\u00e9pond aux caract\u00e9ristiques du filigranage mis en \u0153uvre<\/strong>.<\/p>\n Si la d\u00e9tection r\u00e9ussit, le syst\u00e8me confirmera que le texte a \u00e9t\u00e9 g\u00e9n\u00e9r\u00e9 par un mod\u00e8le utilisant la technologie SynthID-Text, permettant ainsi d’identifier son origine sans n\u00e9cessiter d’acc\u00e8s au mod\u00e8le original.<\/p>\n Le marquage des textes g\u00e9n\u00e9r\u00e9s par l\u2019IA r\u00e9pond aux d\u00e9fis pos\u00e9s par l\u2019utilisation massive de ces technologies.<\/p>\n Tout d\u2019abord, nous avons confiance dans l\u2019information. La pr\u00e9sence croissante de textes g\u00e9n\u00e9r\u00e9s par l\u2019IA pr\u00e9sente le risque de propagation de contenus sans attribution claire. Identifier son origine est essentiel pour maintenir la transparence.<\/p>\n Sans syst\u00e8me d\u2019identification efficace, les mod\u00e8les linguistiques peuvent \u00eatre utilis\u00e9s pour diffuser de la d\u00e9sinformation ou g\u00e9n\u00e9rer du contenu malveillant, tel que du spam ou du phishing.<\/p>\n Dans certains contextes, comme l’\u00e9ducation et la recherche scientifique, il est important de savoir si un texte a \u00e9t\u00e9 produit par une personne ou par un mod\u00e8le d’IA<\/strong> pour \u00e9viter la fraude et garantir son originalit\u00e9.<\/p>\n Enfin, il existe des d\u00e9fis r\u00e9glementaires potentiels. Dans un avenir proche, les gouvernements pourraient exiger des entreprises qu\u2019elles identifient lorsqu\u2019elles utilisent du contenu g\u00e9n\u00e9r\u00e9 par l\u2019IA.<\/p>\n La mise en \u0153uvre d\u00e8s maintenant du filigrane permettra aux organisations d\u2019anticiper ces demandes et d\u2019encourager une utilisation responsable.<\/p>\n Malgr\u00e9 ses avantages, SynthID-Text n\u2019est pas une solution infaillible. L’utilisation de toute m\u00e9thode de filigrane pr\u00e9sente des d\u00e9fis inh\u00e9rents.<\/p>\n Bien que le filigrane soit subtil, un utilisateur malveillant pourrait modifier le texte pour tenter d’effacer le filigrane<\/strong> sans affecter la coh\u00e9rence. Google affirme que la marque r\u00e9siste aux modifications l\u00e9g\u00e8res et au recadrage de texte.<\/p>\n D’autre part, SynthID-Text se concentre sur l’identification de textes g\u00e9n\u00e9r\u00e9s par des mod\u00e8les Google sp\u00e9cifiques, ce qui implique que son utilisation g\u00e9n\u00e9ralis\u00e9e n\u00e9cessitera une coop\u00e9ration entre diff\u00e9rents d\u00e9veloppeurs d’IA<\/strong> pour \u00e9tablir une norme commune.<\/p>\n Enfin, m\u00eame si le syst\u00e8me s’est av\u00e9r\u00e9 s\u00e9curitaire et efficace, son efficacit\u00e9 pourrait diminuer lorsqu’il est appliqu\u00e9 \u00e0 des mod\u00e8les autres que ceux pour lesquels il a \u00e9t\u00e9 con\u00e7u.<\/p>\n La sortie de SynthID par Google marque un pr\u00e9c\u00e9dent important dans l’industrie, avec l’espoir qu’il sera possible d’int\u00e9grer des techniques de tatouage sans compromettre l’exp\u00e9rience utilisateur.<\/p>\n En fin de compte, la capacit\u00e9 d\u2019identifier et d\u2019attribuer le texte g\u00e9n\u00e9r\u00e9 par l\u2019IA sera essentielle au maintien de la transparence et de la confiance dans l\u2019\u00e9cosyst\u00e8me num\u00e9rique actuel. Et bient\u00f4t, nous aurons des outils similaires pour l’audio, les images et la vid\u00e9o<\/strong>.<\/p>\n Dans un monde o\u00f9 l\u2019IA est de plus en plus pr\u00e9sente dans nos vies, des outils comme celui-ci sont essentiels pour garantir une utilisation s\u00fbre et \u00e9thique de la technologie.<\/p>\n","protected":false},"excerpt":{"rendered":" Il ne fait aucun doute que l\u2019essor des mod\u00e8les linguistiques \u00e0 grande \u00e9chelle (LLM) a multipli\u00e9 la quantit\u00e9 de contenus \u00e9crits avec les IA, gr\u00e2ce \u00e0 leur capacit\u00e9 \u00e0 g\u00e9n\u00e9rer des textes fluides et coh\u00e9rents. Cela a soulev\u00e9 des inqui\u00e9tudes quant \u00e0 l\u2019authenticit\u00e9 des informations et au risque de d\u00e9sinformation, car il est difficile de […]<\/p>\n","protected":false},"author":9,"featured_media":15166,"comment_status":"open","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"_uag_custom_page_level_css":"","_thinkrank_schema_form_data":"","_thinkrank_selected_schema_type":"","_thinkrank_additional_schemas":"","_thinkrank_canonical_url":"","_thinkrank_og_title":"","_thinkrank_og_description":"","_thinkrank_og_image":"","_thinkrank_twitter_title":"","_thinkrank_twitter_description":"","_thinkrank_twitter_image":"","_thinkrank_imported_from":"","_thinkrank_focus_keywords":[],"_thinkrank_focus_keyword":"","_thinkrank_robots_meta_enabled":0,"_thinkrank_robots_meta":"","_thinkrank_advanced_robots_meta":"","_thinkrank_exclude_from_search":0,"_thinkrank_exclude_from_archives":0,"_thinkrank_primary_category":0,"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[718],"tags":[],"class_list":["post-27280","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-intelligence-artificielle"],"uagb_featured_image_src":{"full":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2024\/10\/google-synthid-identificar-texto-generado-ia.jpg",1344,768,false],"thumbnail":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2024\/10\/google-synthid-identificar-texto-generado-ia-150x150.jpg",150,150,true],"medium":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2024\/10\/google-synthid-identificar-texto-generado-ia-300x171.jpg",300,171,true],"medium_large":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2024\/10\/google-synthid-identificar-texto-generado-ia-768x439.jpg",768,439,true],"large":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2024\/10\/google-synthid-identificar-texto-generado-ia-1024x585.jpg",1024,585,true],"1536x1536":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2024\/10\/google-synthid-identificar-texto-generado-ia-1536x878.jpg",1536,878,true],"2048x2048":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2024\/10\/google-synthid-identificar-texto-generado-ia.jpg",1344,768,false]},"uagb_author_info":{"display_name":"marketing","author_link":"https:\/\/comunicagenia.com\/fr\/blog\/author\/marketing\/"},"uagb_comment_info":0,"uagb_excerpt":"Il ne fait aucun doute que l\u2019essor des mod\u00e8les linguistiques \u00e0 grande \u00e9chelle (LLM) a multipli\u00e9 la quantit\u00e9 de contenus \u00e9crits avec les IA, gr\u00e2ce \u00e0 leur capacit\u00e9 \u00e0 g\u00e9n\u00e9rer des textes fluides et coh\u00e9rents. Cela a soulev\u00e9 des inqui\u00e9tudes quant \u00e0 l\u2019authenticit\u00e9 des informations et au risque de d\u00e9sinformation, car il est difficile de\u2026","_links":{"self":[{"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/posts\/27280","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/users\/9"}],"replies":[{"embeddable":true,"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/comments?post=27280"}],"version-history":[{"count":0,"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/posts\/27280\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/media\/15166"}],"wp:attachment":[{"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/media?parent=27280"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/categories?post=27280"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/tags?post=27280"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}Qu’est-ce que SynthID-Text et comment \u00e7a marche ?<\/h2>\n
Un exemple du fonctionnement de SynthID-Text<\/h3>\n
L’importance de marquer les textes g\u00e9n\u00e9r\u00e9s avec l’IA<\/h2>\n
Limitations et d\u00e9fis du filigrane avec SynthID<\/h2>\n
Le texte n’est que le d\u00e9but<\/h2>\n