Dans un monde de plus en plus inondé de contenus générés et modifiés par l’intelligence artificielle (IA), l’authenticité et l’intégrité des œuvres créatives sont devenues une priorité.
La prolifération des deepfakes, des images modifiées numériquement et des fichiers audio générés par l’IA a soulevé des inquiétudes quant à la véracité du contenu que nous consommons.
Pour relever ce défi, Adobe a lancé un outil Web innovant appelé Adobe Content Authenticity, dans le cadre de sa plus large Content Authenticity Initiative (CAI).
Cette initiative renforce également la nécessité d’un cadre juridique pour l’IA qui protège les créateurs contre l’utilisation aveugle de leurs œuvres par des modèles génératifs.
Le CAI vise à donner aux créateurs un plus grand contrôle sur leur travail et à offrir aux consommateurs la possibilité de vérifier l’authenticité du contenu numérique.
Le problème de l’authenticité à l’ère de l’IA
Avec l’essor des technologies de l’IA, l’utilisation abusive des contenus visuels, auditifs et multimédias suscite de plus en plus d’inquiétudes.
Dans ce contexte, on distingue particulièrement les deepfakes, des contenus créés artificiellement qui imitent de vraies personnes mais qui ont en réalité été générés ou modifiés grâce à l’IA.
Ces fichiers sont devenus un outil puissant, mais souvent dangereux, utilisé pour désinformer, falsifier et tromper, affectant à la fois les personnalités publiques et les citoyens ordinaires.
Des célébrités comme Taylor Swift et des hommes politiques comme Donald Trump ont vu leurs images et vidéos manipulées par l’IA inonder les réseaux sociaux, soulevant de vives inquiétudes quant au contrôle que les gens exercent sur leur image dans l’environnement numérique.
Face à ce phénomène, Adobe a joué un rôle actif pour garantir que les créateurs puissent authentifier et protéger leur travail dans un monde où la technologie de l’IA devient partie intégrante de la création de contenu.
Adobe Content Authenticity : la réponse au défi
Adobe a réagi en créant une application Web qui permet aux créateurs d’ajouter des informations d’identification de contenu à leurs œuvres, certifiant ainsi leur paternité et les protégeant contre toute manipulation ou utilisation non autorisée.
Ces informations d’identification ne sont pas simplement des balises ou des métadonnées qui peuvent être facilement supprimées via des captures d’écran ou des modifications.
Au lieu de cela, Adobe utilise une combinaison de technologies avancées, telles que les empreintes digitales numériques, le filigrane et la signature de métadonnées cryptographiques, pour une protection beaucoup plus robuste.
Selon Andy Parsons, directeur principal de l’authenticité du contenu chez Adobe, les informations d’identification du contenu fournissent une méthode d’authentification qui garantit que quel que soit l’endroit où le contenu est partagé, il contiendra toujours avec lui un enregistrement vérifiable de son origine et de toutes les modifications qu’il a subies.
Ces informations d’identification vous permettent de savoir si le contenu a été généré ou modifié avec des outils d’IA, tels que Photoshop ou Adobe Firefly, l’outil d’IA générative d’Adobe.
Un outil gratuit et open source
Adobe a assuré que l’application d’authenticité du contenu sera gratuite et open source, permettant aux créateurs du monde entier de bénéficier gratuitement de ces technologies.
De plus, les spécifications techniques derrière ces informations d’identification ne sont pas la propriété d’Adobe, ce qui signifie que n’importe quelle entreprise ou plateforme pourra les mettre en œuvre sur ses systèmes.
L’objectif ultime d’Adobe est que cette norme soit largement adoptée afin de garantir l’authenticité et la transparence du contenu numérique à toutes les étapes de sa distribution.
À partir du premier trimestre 2025, Adobe lancera la version bêta de cette application web, initialement destinée aux créateurs de contenu, afin qu’ils puissent ajouter ces identifiants à leurs œuvres.
Mais l’accès ne sera pas limité à ceux qui utilisent les produits Adobe. N’importe qui, même ceux qui ne sont pas abonnés à la suite logicielle d’Adobe, pourra utiliser cet outil pour protéger son travail.
Adobe n’est pas seul
La société a obtenu le soutien d’acteurs clés du secteur de la technologie et de la création de contenu, tels que Microsoft, Google, Meta, OpenAI, et de fabricants d’appareils photo tels que Leica, Sony et Canon.
Cela signifie que les informations d’identification du contenu seront présentes non seulement dans les produits logiciels, mais également dans les appareils physiques tels que les caméras.
L’intégration de ce système dans des appareils tels que le Leica M11 ou les prochains modèles Sony Alpha permettra aux photographes d’ajouter des informations d’authenticité à leurs images directement à partir du moment où la photo est prise.
Malgré ce soutien massif, l’un des défis reste l’adoption généralisée de ces informations sur les plateformes de médias sociaux et les sites Web.
Bien que des géants comme Instagram, LinkedIn et TikTok soient déjà impliqués dans l’initiative, il existe encore de nombreuses plateformes qui n’affichent pas visiblement les informations sur l’origine du contenu.
Pour résoudre ce problème, Adobe a également publié une extension de navigateur pour Google Chrome (toujours en version bêta) qui permettra aux utilisateurs d’afficher les informations d’identification du contenu tant qu’elles existent.
De cette manière, les consommateurs peuvent vérifier l’authenticité des images, vidéos ou fichiers audio trouvés en ligne.
Une nouvelle ère de transparence et de contrôle pour les créateurs
Il semble un peu tard pour limiter l’usage de l’intelligence artificielle, il ne reste donc plus qu’à veiller à ce qu’elle soit utilisée de manière éthique et transparente.
Grâce à cet outil d’authenticité du contenu, les créateurs pourront protéger leur travail et s’assurer qu’il ne sera pas utilisé sans leur consentement dans des ensembles de données destinés à entraîner des modèles d’IA.
En fait, Adobe a déjà intégré cette fonctionnalité dans son propre modèle génératif, Firefly, qui utilise uniquement du contenu disposant des autorisations appropriées pour s’entraîner.
Cette initiative s’aligne également sur le travail de Spawning, une plateforme qui permet aux artistes de contrôler si leurs œuvres sont utilisées ou non pour entraîner l’IA.
Adobe a travaillé en étroite collaboration avec Spawning pour créer une liste d’œuvres qui ne doivent pas être utilisées dans la formation en IA, à laquelle des sociétés telles que Hugging Face et Stability AI ont déjà rejoint.
This post is also available in: