{"id":27083,"date":"2025-04-16T17:06:47","date_gmt":"2025-04-16T15:06:47","guid":{"rendered":"https:\/\/comunicagenia.com\/blog\/sauvegardes-dans-lia-comment-openai-espere-reduire-les-biorisques\/"},"modified":"2025-04-16T17:06:47","modified_gmt":"2025-04-16T15:06:47","slug":"sauvegardes-dans-lia-comment-openai-espere-reduire-les-biorisques","status":"publish","type":"post","link":"https:\/\/comunicagenia.com\/fr\/blog\/sauvegardes-dans-lia-comment-openai-espere-reduire-les-biorisques\/","title":{"rendered":"Sauvegardes dans l’IA : Comment OpenAI esp\u00e8re r\u00e9duire les biorisques"},"content":{"rendered":"

Saviez-vous que l\u2019intelligence artificielle (IA) pouvait \u00eatre utilis\u00e9e pour cr\u00e9er des armes biologiques ? Heureusement, des outils comme OpenAI<\/strong> \u00e9voluent constamment pour \u00e9viter cela.<\/p>\n

Dans le cadre d’un d\u00e9veloppement r\u00e9cent, OpenAI a mis en \u0153uvre de nouvelles protections dans ses mod\u00e8les d’IA les plus avanc\u00e9s, o3 et o4-mini, pour emp\u00eacher qu’ils ne soient utilis\u00e9s pour cr\u00e9er des menaces biologiques et chimiques.<\/p>\n

Mais quelles sont exactement ces garanties et pourquoi sont-elles si importantes ? Poursuivez votre lecture et d\u00e9couvrez ce que sont les garanties de l’IA, les risques g\u00e9n\u00e9raux li\u00e9s \u00e0 son utilisation et, en particulier, les biorisques qui pr\u00e9occupent tant les experts.<\/p>\n

Que sont les mesures de protection contre l’IA\u00a0?<\/h2>\n

Les garanties de l\u2019IA fonctionnent comme des freins de s\u00e9curit\u00e9 : des m\u00e9canismes qui identifient et bloquent les utilisations qui pourraient \u00eatre nuisibles. Dans le cas d\u2019OpenAI, ce syst\u00e8me est appel\u00e9 moniteur de raisonnement ax\u00e9 sur la s\u00e9curit\u00e9.<\/p>\n

Ce composant personnalis\u00e9 s’ex\u00e9cute sur les mod\u00e8les o3 et o4\u2011mini, analyse chaque requ\u00eate et rejette celles li\u00e9es aux risques biologiques ou chimiques<\/strong>, renvoyant un avertissement au lieu d’instructions dangereuses (techcrunch.com).<\/p>\n

Pour former ce moniteur, OpenAI disposait d’une \u00e9quipe d’\u00e9quipes rouges qui ont pass\u00e9 pr\u00e8s de 1\u00a0000 heures \u00e0 identifier les conversations dangereuses et \u00e0 \u00e9tiqueter des milliers d’exemples de demandes \u00e0 risque.<\/p>\n

De cette fa\u00e7on, le syst\u00e8me apprend \u00e0 reconna\u00eetre des sch\u00e9mas qui pourraient indiquer la cr\u00e9ation d\u2019armes biologiques, de toxines ou d\u2019agents chimiques nocifs.<\/p>\n

Risques g\u00e9n\u00e9raux li\u00e9s \u00e0 l’IA<\/h2>\n

Si les risques biologiques attirent l\u2019attention en raison de leur gravit\u00e9, l\u2019IA pr\u00e9sente d\u2019autres menaces \u00e0 grande \u00e9chelle qu\u2019il convient de rappeler\u00a0:<\/p>\n

    \n
  • Pr\u00e9jug\u00e9s et discrimination\u00a0:<\/strong> Les algorithmes entra\u00een\u00e9s avec des donn\u00e9es partielles peuvent perp\u00e9tuer les pr\u00e9jug\u00e9s existants et nuire aux groupes vuln\u00e9rables.<\/li>\n<\/ul>\n
      \n
    • D\u00e9placement d’emplois\u00a0:<\/strong> L’automatisation menace les emplois dans l’industrie manufacturi\u00e8re, le service client et d’autres secteurs, g\u00e9n\u00e9rant des d\u00e9fis sociaux et \u00e9conomiques.<\/li>\n<\/ul>\n
        \n
      • Deepfakes et d\u00e9sinformation\u00a0:<\/strong> la cr\u00e9ation de contenus audiovisuels falsifi\u00e9s peut miner la confiance du public et faciliter les campagnes de d\u00e9sinformation.<\/li>\n<\/ul>\n
          \n
        • D\u00e9pendance excessive\u00a0:<\/strong> Une confiance aveugle dans les syst\u00e8mes d’IA peut \u00e9roder les comp\u00e9tences humaines, telles que la pens\u00e9e critique et la r\u00e9solution de probl\u00e8mes.<\/li>\n<\/ul>\n

          Bien que ces risques n\u00e9cessitent des cadres r\u00e9glementaires et des audits constants, les risques biologiques ajoutent une couche de complexit\u00e9 en raison de leur potentiel catastrophique.<\/p>\n

          Que sont les biorisques ?<\/h2>\n

          Les biorisques englobent les menaces d\u00e9coulant de la manipulation d’agents biologiques. Gr\u00e2ce \u00e0 l\u2019IA, m\u00eame les utilisateurs sans formation sp\u00e9cialis\u00e9e pourraient concevoir des biotoxines, optimiser des agents infectieux ou m\u00eame cr\u00e9er des armes biologiques.<\/p>\n

          Bien que cela puisse para\u00eetre incroyable, les algorithmes d\u2019IA peuvent analyser des s\u00e9quences g\u00e9n\u00e9tiques et pr\u00e9dire des mutations qui augmentent la l\u00e9talit\u00e9 ou la r\u00e9sistance des agents pathog\u00e8nes. Ou encore, ils pourraient identifier des combinaisons g\u00e9n\u00e9tiques qui augmentent la transmissibilit\u00e9, l\u2019\u00e9vasion immunitaire ou la r\u00e9sistance aux traitements.<\/p>\n

          Enfin, les outils con\u00e7us pour acc\u00e9l\u00e9rer les d\u00e9couvertes m\u00e9dicales peuvent \u00eatre r\u00e9orient\u00e9s vers des fins destructrices. Autrement dit, transformer quelque chose de b\u00e9n\u00e9fique en une arme biologique.<\/p>\n

          Sauvegardes mises en \u0153uvre par OpenAI<\/h2>\n

          Selon le rapport d’OpenAI, le moniteur de raisonnement a d\u00e9montr\u00e9 un taux de rejet de 98,7 % contre les demandes \u00e0 haut risque lors des tests internes. Lorsqu’il d\u00e9tecte un mod\u00e8le dangereux, le syst\u00e8me arr\u00eate de g\u00e9n\u00e9rer la r\u00e9ponse et \u00e9met un message explicatif d\u00e9crivant pourquoi il ne peut pas r\u00e9pondre \u00e0 cette requ\u00eate.<\/p>\n

          De plus, OpenAI a mis \u00e0 jour son cadre de pr\u00e9paration, un ensemble de lignes directrices pour \u00e9valuer les niveaux de risque et d\u00e9finir des protocoles d’action\u00a0:<\/p>\n

            \n
          • Seuil \u00e9lev\u00e9\u00a0:<\/strong> Si un mod\u00e8le peut permettre \u00e0 un utilisateur novice de r\u00e9pliquer des menaces connues, des contr\u00f4les suppl\u00e9mentaires sont requis avant de le d\u00e9ployer en production.<\/li>\n<\/ul>\n
              \n
            • Seuil critique\u00a0: <\/strong>si le mod\u00e8le est capable d’assister les experts dans le d\u00e9veloppement de nouvelles menaces tr\u00e8s dangereuses, son lancement est arr\u00eat\u00e9 jusqu’\u00e0 ce que les sauvegardes soient renforc\u00e9es et que des audits exhaustifs soient r\u00e9alis\u00e9s<\/li>\n<\/ul>\n

              Avec cette classification, OpenAI d\u00e9cide de proc\u00e9der \u00e0 la publication, de retarder le d\u00e9ploiement pour am\u00e9liorer les mesures de s\u00e9curit\u00e9 ou d’abandonner le projet dans sa phase actuelle.<\/p>\n

              \u00c9valuation continue et d\u00e9fis futurs<\/h2>\n

              Bien que les tests du syst\u00e8me aient \u00e9t\u00e9 concluants, OpenAI reconna\u00eet ses principales limites. Tout d’abord, il y a la possibilit\u00e9 d’\u00e9chapper aux filtres<\/strong>. Les tests n\u2019ont pas simul\u00e9 des utilisateurs persistants reformulant leurs requ\u00eates pour contourner le moniteur.<\/p>\n

              De plus, malgr\u00e9 son automatisation, la surveillance experte reste essentielle pour identifier de nouvelles tactiques malveillantes.<\/p>\n

              Enfin, il y a une pression concurrentielle<\/strong>. Certains ont soulign\u00e9 des d\u00e9lais tr\u00e8s serr\u00e9s pour \u00e9valuer les mod\u00e8les, ce qui pourrait compromettre la profondeur des tests.<\/p>\n

              Pour relever ces d\u00e9fis, OpenAI collabore avec des laboratoires tels que Los Alamos et des tiers sp\u00e9cialis\u00e9s en bios\u00e9curit\u00e9, affinant continuellement ses classificateurs et protocoles. Elle pr\u00e9voit \u00e9galement d’\u00e9largir son r\u00e9seau d’\u00e9valuateurs ind\u00e9pendants et de publier des rapports de s\u00e9curit\u00e9 avec une plus grande transparence.<\/p>\n

              Vers une utilisation responsable de l’IA<\/h2>\n

              L\u2019adoption massive de l\u2019IA n\u00e9cessite un \u00e9quilibre entre innovation et prudence. Les mesures d’OpenAI repr\u00e9sentent une avanc\u00e9e importante, mais ne doivent pas \u00eatre consid\u00e9r\u00e9es comme une solution d\u00e9finitive. Les gouvernements, les \u00e9tablissements universitaires et l\u2019industrie technologique doivent\u00a0:<\/p>\n

                \n
              • D\u00e9velopper des cadres r\u00e9glementaires mondiaux qui coordonnent les normes de bios\u00e9curit\u00e9.<\/li>\n<\/ul>\n
                  \n
                • Promouvoir la transparence \u00e0 travers la publication de rapports de s\u00e9curit\u00e9 et d’audits ind\u00e9pendants.<\/li>\n<\/ul>\n
                    \n
                  • Promouvoir la formation en bio\u00e9thique et cybers\u00e9curit\u00e9 des d\u00e9veloppeurs et utilisateurs de l\u2019IA.<\/li>\n<\/ul>\n

                    Ce n\u2019est qu\u2019avec une approche collaborative et multidisciplinaire que nous pourrons exploiter le potentiel de l\u2019IA sans exposer l\u2019humanit\u00e9 \u00e0 de nouveaux dangers.<\/p>\n

                    L\u2019IA offre des opportunit\u00e9s sans pr\u00e9c\u00e9dent, depuis des diagnostics m\u00e9dicaux plus rapides jusqu\u2019\u00e0 l\u2019optimisation des processus industriels. Mais, comme nous l\u2019avons vu, cela peut aussi faciliter la cr\u00e9ation de menaces biologiques.<\/p>\n

                    Les garanties OpenAI constituent un pas en avant, d\u00e9montrant qu\u2019il est possible d\u2019anticiper les abus de la technologie. Cependant, la s\u00e9curit\u00e9 n’est jamais statique : nous devons rester vigilants et engag\u00e9s dans l’am\u00e9lioration continue de ces syst\u00e8mes pour garantir un avenir o\u00f9 l’IA est une force de progr\u00e8s et non de destruction.<\/strong><\/p>\n","protected":false},"excerpt":{"rendered":"

                    Saviez-vous que l\u2019intelligence artificielle (IA) pouvait \u00eatre utilis\u00e9e pour cr\u00e9er des armes biologiques ? Heureusement, des outils comme OpenAI \u00e9voluent constamment pour \u00e9viter cela. Dans le cadre d’un d\u00e9veloppement r\u00e9cent, OpenAI a mis en \u0153uvre de nouvelles protections dans ses mod\u00e8les d’IA les plus avanc\u00e9s, o3 et o4-mini, pour emp\u00eacher qu’ils ne soient utilis\u00e9s pour […]<\/p>\n","protected":false},"author":9,"featured_media":18281,"comment_status":"open","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"_uag_custom_page_level_css":"","_thinkrank_schema_form_data":"","_thinkrank_selected_schema_type":"","_thinkrank_additional_schemas":"","_thinkrank_canonical_url":"","_thinkrank_og_title":"","_thinkrank_og_description":"","_thinkrank_og_image":"","_thinkrank_twitter_title":"","_thinkrank_twitter_description":"","_thinkrank_twitter_image":"","_thinkrank_imported_from":"","_thinkrank_focus_keywords":[],"_thinkrank_focus_keyword":"","_thinkrank_robots_meta_enabled":0,"_thinkrank_robots_meta":"","_thinkrank_advanced_robots_meta":"","_thinkrank_exclude_from_search":0,"_thinkrank_exclude_from_archives":0,"_thinkrank_primary_category":0,"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[718],"tags":[],"class_list":["post-27083","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-intelligence-artificielle"],"uagb_featured_image_src":{"full":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2025\/04\/salvaguardas-ia-openai-biorriesgos.jpg",1408,768,false],"thumbnail":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2025\/04\/salvaguardas-ia-openai-biorriesgos-150x150.jpg",150,150,true],"medium":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2025\/04\/salvaguardas-ia-openai-biorriesgos-300x164.jpg",300,164,true],"medium_large":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2025\/04\/salvaguardas-ia-openai-biorriesgos-768x419.jpg",768,419,true],"large":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2025\/04\/salvaguardas-ia-openai-biorriesgos-1024x559.jpg",1024,559,true],"1536x1536":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2025\/04\/salvaguardas-ia-openai-biorriesgos.jpg",1408,768,false],"2048x2048":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2025\/04\/salvaguardas-ia-openai-biorriesgos.jpg",1408,768,false]},"uagb_author_info":{"display_name":"marketing","author_link":"https:\/\/comunicagenia.com\/fr\/blog\/author\/marketing\/"},"uagb_comment_info":0,"uagb_excerpt":"Saviez-vous que l\u2019intelligence artificielle (IA) pouvait \u00eatre utilis\u00e9e pour cr\u00e9er des armes biologiques ? Heureusement, des outils comme OpenAI \u00e9voluent constamment pour \u00e9viter cela. Dans le cadre d’un d\u00e9veloppement r\u00e9cent, OpenAI a mis en \u0153uvre de nouvelles protections dans ses mod\u00e8les d’IA les plus avanc\u00e9s, o3 et o4-mini, pour emp\u00eacher qu’ils ne soient utilis\u00e9s pour\u2026","_links":{"self":[{"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/posts\/27083","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/users\/9"}],"replies":[{"embeddable":true,"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/comments?post=27083"}],"version-history":[{"count":0,"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/posts\/27083\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/media\/18281"}],"wp:attachment":[{"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/media?parent=27083"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/categories?post=27083"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/comunicagenia.com\/fr\/wp-json\/wp\/v2\/tags?post=27083"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}