{"id":27385,"date":"2024-08-07T17:39:28","date_gmt":"2024-08-07T15:39:28","guid":{"rendered":"https:\/\/comunicagenia.com\/blog\/comment-detecter-les-faux-sons-crees-par-lia-deepfakes-vocaux\/"},"modified":"2024-08-07T17:39:28","modified_gmt":"2024-08-07T15:39:28","slug":"comment-detecter-les-faux-sons-crees-par-lia-deepfakes-vocaux","status":"publish","type":"post","link":"https:\/\/comunicagenia.com\/fr\/blog\/comment-detecter-les-faux-sons-crees-par-lia-deepfakes-vocaux\/","title":{"rendered":"Comment d\u00e9tecter les faux sons cr\u00e9\u00e9s par l’IA ? Deepfakes vocaux"},"content":{"rendered":"

La capacit\u00e9 de l\u2019intelligence artificielle (IA) \u00e0 g\u00e9n\u00e9rer du contenu synth\u00e9tique continue de cro\u00eetre. Des images et vid\u00e9os au texte et \u00e0 la voix, les cr\u00e9ations g\u00e9n\u00e9r\u00e9es par l\u2019IA sont de plus en plus difficiles \u00e0 distinguer de la r\u00e9alit\u00e9.<\/p>\n

En particulier, les discours g\u00e9n\u00e9r\u00e9s par l\u2019IA ont suscit\u00e9 d\u2019importantes inqui\u00e9tudes en raison de leur potentiel d\u2019utilisation \u00e0 des fins de d\u00e9sinformation, de fraude et \u00e0 d\u2019autres fins malveillantes.<\/p>\n

Nous explorons ici s\u2019il est possible de d\u00e9tecter les voix g\u00e9n\u00e9r\u00e9es par l\u2019IA et comment les d\u00e9fis associ\u00e9s \u00e0 cette technologie \u00e9mergente sont r\u00e9solus.<\/p>\n

L’essor de la parole g\u00e9n\u00e9r\u00e9e par l’IA<\/h2>\n

La synth\u00e8se vocale a connu des progr\u00e8s remarquables gr\u00e2ce aux r\u00e9seaux neuronaux profonds et \u00e0 d\u2019autres progr\u00e8s de l\u2019apprentissage automatique. Des outils tels que FakeYou et PlayHT ont facilit\u00e9 la cr\u00e9ation de voix synth\u00e9tiques r\u00e9alistes, les rendant accessibles \u00e0 un large \u00e9ventail d’utilisateurs.<\/p>\n

Ces syst\u00e8mes peuvent g\u00e9n\u00e9rer des voix \u00e0 partir de texte (TTS, text-to-speech<\/strong>) ou transformer la voix d’une personne en celle d’une autre (conversion vocale<\/strong>), en conservant les nuances \u00e9motionnelles et les sch\u00e9mas respiratoires du discours d’origine.<\/p>\n

Cependant, cette technologie a \u00e9galement \u00e9t\u00e9 utilis\u00e9e pour cr\u00e9er des \u00ab deepfakes \u00bb audio, o\u00f9 les voix de personnalit\u00e9s publiques sont falsifi\u00e9es pour diffuser des informations erron\u00e9es ou commettre des escroqueries.<\/p>\n

Un cas r\u00e9cent concernait un canular<\/strong> qui semblait provenir du pr\u00e9sident am\u00e9ricain Joe Biden<\/strong>, d\u00e9courageant les \u00e9lecteurs d\u00e9mocrates lors des primaires du New Hampshire. Cet incident souligne le besoin urgent de disposer d\u2019outils fiables pour d\u00e9tecter l\u2019audio g\u00e9n\u00e9r\u00e9 par l\u2019IA.<\/p>\n

D\u00e9fis li\u00e9s \u00e0 la d\u00e9tection de l’audio g\u00e9n\u00e9r\u00e9 par l’IA<\/h2>\n

La d\u00e9tection des voix g\u00e9n\u00e9r\u00e9es par l\u2019IA est intrins\u00e8quement plus compliqu\u00e9e que la d\u00e9tection de fausses images ou vid\u00e9os. L’audio est un support unidimensionnel et \u00e9ph\u00e9m\u00e8re, ce qui rend difficile l’examen et l’analyse des signaux de g\u00e9n\u00e9ration d’IA.<\/p>\n

Selon Manjeet Rege, directeur du Centre d’intelligence artificielle appliqu\u00e9e \u00e0 l’Universit\u00e9 de St. Thomas, l’audio manque de contexte visuel et d’indices pouvant aider \u00e0 identifier les contrefa\u00e7ons.<\/p>\n

Les m\u00e9thodes de d\u00e9tection actuelles s’appuient largement sur l’apprentissage automatique, dans lequel les mod\u00e8les sont form\u00e9s avec de vastes ensembles de donn\u00e9es de voix r\u00e9elles et synth\u00e9tiques. Autrement dit, utiliser l\u2019IA pour d\u00e9tecter le contenu g\u00e9n\u00e9r\u00e9 par d\u2019autres IA.<\/p>\n

Ces mod\u00e8les recherchent des mod\u00e8les et des fonctionnalit\u00e9s permettant de distinguer l\u2019audio g\u00e9n\u00e9r\u00e9 par l\u2019IA de l\u2019audio r\u00e9el. Cependant, ces syst\u00e8mes se heurtent \u00e0 plusieurs obstacles :<\/p>\n

    \n
  • Variabilit\u00e9 audio\u00a0: l’audio peut facilement se d\u00e9grader<\/strong> en raison de la compression, des bruits de fond et d’autres facteurs, ce qui rend une d\u00e9tection pr\u00e9cise difficile.<\/li>\n<\/ul>\n
      \n
    • Mise \u00e0 jour constante\u00a0: avec de nouveaux mod\u00e8les de g\u00e9n\u00e9ration de voix IA publi\u00e9s chaque semaine, les syst\u00e8mes de d\u00e9tection doivent \u00eatre continuellement mis \u00e0 jour<\/strong> pour identifier les diff\u00e9rences subtiles entre les voix r\u00e9elles et g\u00e9n\u00e9r\u00e9es.<\/li>\n<\/ul>\n
        \n
      • Limitations linguistiques\u00a0: la plupart des mod\u00e8les actuels se concentrent sur l’anglais<\/strong>, ce qui signifie qu’ils peuvent ne pas \u00eatre efficaces pour d\u00e9tecter l’audio g\u00e9n\u00e9r\u00e9 en espagnol ou dans d’autres langues.<\/li>\n<\/ul>\n

        Existe-t-il quelque chose d’efficace pour d\u00e9tecter les deepfakes vocaux\u00a0?<\/h2>\n

        Diverses institutions et entreprises d\u00e9veloppent des outils pour d\u00e9tecter les voix g\u00e9n\u00e9r\u00e9es par l\u2019IA, mais avec des r\u00e9sultats mitig\u00e9s. Une exp\u00e9rience men\u00e9e par NPR (radio publique am\u00e9ricaine) a test\u00e9 3 outils de d\u00e9tection de deepfake : Pindrop Security, AI or Not et AI Voice Detector.<\/p>\n

        Los resultados variaron significativamente, con algunas herramientas fallando<\/strong> al identificar clips generados por IA o etiquetando err\u00f3neamente voces reales como falsas.<\/p>\n

        Investigadores de la Universidad de Granada<\/strong> (UGR) han desarrollado un sistema pionero para discernir si un audio es real o generado por IA, integrando modelos espec\u00edficos para voces de personalidades frecuentes en desinformaci\u00f3n.<\/p>\n

        Cet outil, int\u00e9gr\u00e9 \u00e0 la Chaire RTVE-UGR, se veut une solution avanc\u00e9e pour v\u00e9rifier l’actualit\u00e9 et lutter contre la d\u00e9sinformation.<\/p>\n

        Une autre \u00e9tude men\u00e9e \u00e0 l\u2019Universit\u00e9 de Buffalo a test\u00e9 14 outils de d\u00e9tection de deepfake audio et a r\u00e9v\u00e9l\u00e9 qu\u2019aucun n\u2019\u00e9tait totalement fiable. Les outils test\u00e9s comprenaient DeepFake-o-meter et AI or Not, avec des r\u00e9sultats variant consid\u00e9rablement en fonction de l’audio et des conditions de test.<\/p>\n

        Recommandations et approches combin\u00e9es<\/h2>\n

        \u00c9tant donn\u00e9 que les outils actuels ne sont pas totalement fiables<\/strong>, les experts recommandent une approche combin\u00e9e pour d\u00e9tecter les deepfakes audio. Cela inclut l\u2019utilisation de plusieurs m\u00e9thodes de d\u00e9tection et de techniques suppl\u00e9mentaires.<\/p>\n

        Par exemple, dans la mesure du possible, v\u00e9rifiez<\/strong> l’audio doit \u00eatre effectu\u00e9. Cela implique de confirmer l’authenticit\u00e9 de l’audio en le v\u00e9rifiant \u00e0 partir de sources ind\u00e9pendantes et fiables.<\/p>\n

        Une autre strat\u00e9gie consiste \u00e0 pr\u00eater attention aux d\u00e9tails subtils, tels que l\u2019\u00e9coute des irr\u00e9gularit\u00e9s respiratoires, des pauses et des intonations qui pourraient indiquer une manipulation de l\u2019IA.<\/p>\n

        D’autres strat\u00e9gies font appel \u00e0 la psychologie, comme remettre en question l’urgence d’une demande<\/strong>. Par exemple, les audios demandant de toute urgence des informations personnelles ou financi\u00e8res doivent toujours \u00eatre trait\u00e9s avec suspicion, car ce sentiment d\u2019urgence sert \u00e0 emp\u00eacher les victimes de v\u00e9rifier les informations.<\/p>\n

        De grandes plateformes comme Meta et TikTok d\u00e9veloppent des technologies pour marquer le contenu g\u00e9n\u00e9r\u00e9 par l’IA<\/strong>, qui pourrait \u00e9galement inclure de l’audio \u00e0 l’avenir.<\/p>\n

        L’avenir de la d\u00e9tection vocale cr\u00e9\u00e9 par l’IA<\/h2>\n

        Alors que la technologie de g\u00e9n\u00e9ration vocale par l\u2019IA continue d\u2019\u00e9voluer, il est essentiel que les outils de d\u00e9tection suivent le rythme. La collaboration entre les d\u00e9veloppeurs de technologies de synth\u00e8se vocale et les experts en d\u00e9tection peut accro\u00eetre la pr\u00e9cision et l\u2019efficacit\u00e9 de ces outils.<\/p>\n

        De plus, la mise en \u0153uvre de politiques et de r\u00e9glementations exigeant l\u2019identification du contenu g\u00e9n\u00e9r\u00e9 par l\u2019IA peut contribuer \u00e0 att\u00e9nuer l\u2019impact de la d\u00e9sinformation et d\u2019autres utilisations malveillantes.<\/p>\n

        En r\u00e9sum\u00e9, m\u00eame si la d\u00e9tection vocale g\u00e9n\u00e9r\u00e9e par l\u2019IA pr\u00e9sente de nombreux d\u00e9fis, les progr\u00e8s continus dans la recherche et le d\u00e9veloppement d\u2019outils cibl\u00e9s promettent d\u2019am\u00e9liorer notre capacit\u00e9 \u00e0 identifier et \u00e0 att\u00e9nuer les risques associ\u00e9s.<\/p>\n

        Il est essentiel que la soci\u00e9t\u00e9 reste vigilante et adopte des approches combin\u00e9es pour se prot\u00e9ger contre les menaces \u00e9mergentes pos\u00e9es par cette technologie en \u00e9volution rapide.<\/p>\n","protected":false},"excerpt":{"rendered":"

        La capacit\u00e9 de l\u2019intelligence artificielle (IA) \u00e0 g\u00e9n\u00e9rer du contenu synth\u00e9tique continue de cro\u00eetre. Des images et vid\u00e9os au texte et \u00e0 la voix, les cr\u00e9ations g\u00e9n\u00e9r\u00e9es par l\u2019IA sont de plus en plus difficiles \u00e0 distinguer de la r\u00e9alit\u00e9. En particulier, les discours g\u00e9n\u00e9r\u00e9s par l\u2019IA ont suscit\u00e9 d\u2019importantes inqui\u00e9tudes en raison de leur […]<\/p>\n","protected":false},"author":9,"featured_media":14185,"comment_status":"open","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"_uag_custom_page_level_css":"","_thinkrank_schema_form_data":"","_thinkrank_selected_schema_type":"","_thinkrank_additional_schemas":"","_thinkrank_canonical_url":"","_thinkrank_og_title":"","_thinkrank_og_description":"","_thinkrank_og_image":"","_thinkrank_twitter_title":"","_thinkrank_twitter_description":"","_thinkrank_twitter_image":"","_thinkrank_imported_from":"","_thinkrank_focus_keywords":[],"_thinkrank_focus_keyword":"","_thinkrank_robots_meta_enabled":0,"_thinkrank_robots_meta":"","_thinkrank_advanced_robots_meta":"","_thinkrank_exclude_from_search":0,"_thinkrank_exclude_from_archives":0,"_thinkrank_primary_category":0,"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[718],"tags":[],"class_list":["post-27385","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-intelligence-artificielle"],"uagb_featured_image_src":{"full":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2024\/08\/detectar-audios-falsos-ia.jpg",1344,768,false],"thumbnail":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2024\/08\/detectar-audios-falsos-ia-150x150.jpg",150,150,true],"medium":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2024\/08\/detectar-audios-falsos-ia-300x171.jpg",300,171,true],"medium_large":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2024\/08\/detectar-audios-falsos-ia-768x439.jpg",768,439,true],"large":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2024\/08\/detectar-audios-falsos-ia-1024x585.jpg",1024,585,true],"1536x1536":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2024\/08\/detectar-audios-falsos-ia-1536x878.jpg",1536,878,true],"2048x2048":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2024\/08\/detectar-audios-falsos-ia.jpg",1344,768,false]},"uagb_author_info":{"display_name":"marketing","author_link":"https:\/\/comunicagenia.com\/fr\/blog\/author\/marketing\/"},"uagb_comment_info":0,"uagb_excerpt":"La capacit\u00e9 de l\u2019intelligence artificielle (IA) \u00e0 g\u00e9n\u00e9rer du contenu synth\u00e9tique continue de cro\u00eetre. Des images et vid\u00e9os au texte et \u00e0 la voix, les cr\u00e9ations g\u00e9n\u00e9r\u00e9es par l\u2019IA sont de plus en plus difficiles \u00e0 distinguer de la r\u00e9alit\u00e9. En particulier, les discours g\u00e9n\u00e9r\u00e9s par l\u2019IA ont suscit\u00e9 d\u2019importantes inqui\u00e9tudes en raison de leur\u2026","_links":{"self":[{"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/posts\/27385","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/users\/9"}],"replies":[{"embeddable":true,"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/comments?post=27385"}],"version-history":[{"count":0,"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/posts\/27385\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/media\/14185"}],"wp:attachment":[{"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/media?parent=27385"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/categories?post=27385"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/tags?post=27385"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}