Saviez-vous que l’intelligence artificielle (IA) pouvait être utilisée pour créer des armes biologiques ? Heureusement, des outils comme OpenAI évoluent constamment pour éviter cela.
Dans le cadre d’un développement récent, OpenAI a mis en œuvre de nouvelles protections dans ses modèles d’IA les plus avancés, o3 et o4-mini, pour empêcher qu’ils ne soient utilisés pour créer des menaces biologiques et chimiques.
Mais quelles sont exactement ces garanties et pourquoi sont-elles si importantes ? Poursuivez votre lecture et découvrez ce que sont les garanties de l’IA, les risques généraux liés à son utilisation et, en particulier, les biorisques qui préoccupent tant les experts.
Que sont les mesures de protection contre l’IA ?
Les garanties de l’IA fonctionnent comme des freins de sécurité : des mécanismes qui identifient et bloquent les utilisations qui pourraient être nuisibles. Dans le cas d’OpenAI, ce système est appelé moniteur de raisonnement axé sur la sécurité.
Ce composant personnalisé s’exécute sur les modèles o3 et o4‑mini, analyse chaque requête et rejette celles liées aux risques biologiques ou chimiques, renvoyant un avertissement au lieu d’instructions dangereuses (techcrunch.com).
Pour former ce moniteur, OpenAI disposait d’une équipe d’équipes rouges qui ont passé près de 1 000 heures à identifier les conversations dangereuses et à étiqueter des milliers d’exemples de demandes à risque.
De cette façon, le système apprend à reconnaître des schémas qui pourraient indiquer la création d’armes biologiques, de toxines ou d’agents chimiques nocifs.
Risques généraux liés à l’IA
Si les risques biologiques attirent l’attention en raison de leur gravité, l’IA présente d’autres menaces à grande échelle qu’il convient de rappeler :
- Préjugés et discrimination : Les algorithmes entraînés avec des données partielles peuvent perpétuer les préjugés existants et nuire aux groupes vulnérables.
- Déplacement d’emplois : L’automatisation menace les emplois dans l’industrie manufacturière, le service client et d’autres secteurs, générant des défis sociaux et économiques.
- Deepfakes et désinformation : la création de contenus audiovisuels falsifiés peut miner la confiance du public et faciliter les campagnes de désinformation.
- Dépendance excessive : Une confiance aveugle dans les systèmes d’IA peut éroder les compétences humaines, telles que la pensée critique et la résolution de problèmes.
Bien que ces risques nécessitent des cadres réglementaires et des audits constants, les risques biologiques ajoutent une couche de complexité en raison de leur potentiel catastrophique.
Que sont les biorisques ?
Les biorisques englobent les menaces découlant de la manipulation d’agents biologiques. Grâce à l’IA, même les utilisateurs sans formation spécialisée pourraient concevoir des biotoxines, optimiser des agents infectieux ou même créer des armes biologiques.
Bien que cela puisse paraître incroyable, les algorithmes d’IA peuvent analyser des séquences génétiques et prédire des mutations qui augmentent la létalité ou la résistance des agents pathogènes. Ou encore, ils pourraient identifier des combinaisons génétiques qui augmentent la transmissibilité, l’évasion immunitaire ou la résistance aux traitements.
Enfin, les outils conçus pour accélérer les découvertes médicales peuvent être réorientés vers des fins destructrices. Autrement dit, transformer quelque chose de bénéfique en une arme biologique.
Sauvegardes mises en œuvre par OpenAI
Selon le rapport d’OpenAI, le moniteur de raisonnement a démontré un taux de rejet de 98,7 % contre les demandes à haut risque lors des tests internes. Lorsqu’il détecte un modèle dangereux, le système arrête de générer la réponse et émet un message explicatif décrivant pourquoi il ne peut pas répondre à cette requête.
De plus, OpenAI a mis à jour son cadre de préparation, un ensemble de lignes directrices pour évaluer les niveaux de risque et définir des protocoles d’action :
- Seuil élevé : Si un modèle peut permettre à un utilisateur novice de répliquer des menaces connues, des contrôles supplémentaires sont requis avant de le déployer en production.
- Seuil critique : si le modèle est capable d’assister les experts dans le développement de nouvelles menaces très dangereuses, son lancement est arrêté jusqu’à ce que les sauvegardes soient renforcées et que des audits exhaustifs soient réalisés
Avec cette classification, OpenAI décide de procéder à la publication, de retarder le déploiement pour améliorer les mesures de sécurité ou d’abandonner le projet dans sa phase actuelle.
Évaluation continue et défis futurs
Bien que les tests du système aient été concluants, OpenAI reconnaît ses principales limites. Tout d’abord, il y a la possibilité d’échapper aux filtres. Les tests n’ont pas simulé des utilisateurs persistants reformulant leurs requêtes pour contourner le moniteur.
De plus, malgré son automatisation, la surveillance experte reste essentielle pour identifier de nouvelles tactiques malveillantes.
Enfin, il y a une pression concurrentielle. Certains ont souligné des délais très serrés pour évaluer les modèles, ce qui pourrait compromettre la profondeur des tests.
Pour relever ces défis, OpenAI collabore avec des laboratoires tels que Los Alamos et des tiers spécialisés en biosécurité, affinant continuellement ses classificateurs et protocoles. Elle prévoit également d’élargir son réseau d’évaluateurs indépendants et de publier des rapports de sécurité avec une plus grande transparence.
Vers une utilisation responsable de l’IA
L’adoption massive de l’IA nécessite un équilibre entre innovation et prudence. Les mesures d’OpenAI représentent une avancée importante, mais ne doivent pas être considérées comme une solution définitive. Les gouvernements, les établissements universitaires et l’industrie technologique doivent :
- Développer des cadres réglementaires mondiaux qui coordonnent les normes de biosécurité.
- Promouvoir la transparence à travers la publication de rapports de sécurité et d’audits indépendants.
- Promouvoir la formation en bioéthique et cybersécurité des développeurs et utilisateurs de l’IA.
Ce n’est qu’avec une approche collaborative et multidisciplinaire que nous pourrons exploiter le potentiel de l’IA sans exposer l’humanité à de nouveaux dangers.
L’IA offre des opportunités sans précédent, depuis des diagnostics médicaux plus rapides jusqu’à l’optimisation des processus industriels. Mais, comme nous l’avons vu, cela peut aussi faciliter la création de menaces biologiques.
Les garanties OpenAI constituent un pas en avant, démontrant qu’il est possible d’anticiper les abus de la technologie. Cependant, la sécurité n’est jamais statique : nous devons rester vigilants et engagés dans l’amélioration continue de ces systèmes pour garantir un avenir où l’IA est une force de progrès et non de destruction.
This post is also available in: