In un mondo sempre più inondato di contenuti generati e modificati dall’intelligenza artificiale (AI), l’autenticità e l’integrità delle opere creative sono diventate una priorità.
La proliferazione di deepfake, immagini alterate digitalmente e audio generato dall’intelligenza artificiale ha sollevato preoccupazioni sulla veridicità dei contenuti che consumiamo.
Per affrontare questa sfida, Adobe ha lanciato uno strumento web innovativo chiamato Adobe Content Authenticity, come parte della sua più ampia Content Authenticity Initiative (CAI).
Questa iniziativa rafforza inoltre la necessità di un quadro giuridico per l’intelligenza artificiale che protegga i creatori dall’uso indiscriminato delle loro opere da parte di modelli generativi.
Il CAI mira a dare ai creatori un maggiore controllo sul proprio lavoro e a fornire ai consumatori la possibilità di verificare l’autenticità dei contenuti digitali.
Il problema dell’autenticità nell’era dell’IA
Con l’avvento delle tecnologie di intelligenza artificiale, è cresciuta la preoccupazione per l’uso improprio dei contenuti visivi, uditivi e multimediali.
In questo contesto spiccano soprattutto i deepfake, contenuti creati artificialmente che imitano persone reali ma che in realtà sono stati generati o modificati tramite l’intelligenza artificiale.
Questi file sono diventati uno strumento potente, ma spesso pericoloso, utilizzato per disinformare, falsificare e ingannare, colpendo sia personaggi pubblici che cittadini comuni.
Celebrità come Taylor Swift e politici come Donald Trump hanno visto le loro immagini e video manipolati dall’intelligenza artificiale inondare i social media, sollevando forti preoccupazioni sul controllo che le persone hanno sulla propria immagine nell’ambiente digitale.
Di fronte a questo fenomeno, Adobe ha assunto un ruolo attivo per garantire che i creatori possano autenticare e proteggere il proprio lavoro in un mondo in cui la tecnologia AI sta diventando parte integrante della creazione di contenuti.
Adobe Content Authenticity: la risposta alla sfida
Adobe ha risposto creando un’applicazione web che consente ai creatori di aggiungere Credenziali di contenuto alle proprie opere, certificandone la paternità e proteggendole da manipolazioni o usi non autorizzati.
Queste credenziali non sono semplicemente tag o metadati che possono essere facilmente rimossi tramite screenshot o modifiche.
Adobe utilizza invece una combinazione di tecnologie avanzate, come l’impronta digitale, la filigrana e la firma crittografica dei metadati, per una protezione molto più solida.
Secondo Andy Parsons, direttore senior dell’autenticità dei contenuti di Adobe, le credenziali dei contenuti forniscono un metodo di autenticazione che garantisce che, indipendentemente da dove venga condiviso, il contenuto porterà sempre con sé una registrazione verificabile della sua origine e di eventuali modifiche subite.
Queste credenziali ti consentono di sapere se il contenuto è stato generato o modificato con strumenti di intelligenza artificiale, come Photoshop o Adobe Firefly, lo strumento di intelligenza artificiale generativa di Adobe.
Uno strumento open source e gratuito
Adobe ha assicurato che l’applicazione di autenticità dei contenuti sarà gratuita e open source, consentendo ai creatori di tutto il mondo di beneficiare di queste tecnologie senza alcun costo.
Inoltre, le specifiche tecniche alla base di queste credenziali non sono di proprietà di Adobe, il che significa che qualsiasi azienda o piattaforma sarà in grado di implementarle sui propri sistemi.
L’obiettivo finale di Adobe è che questo standard venga adottato su vasta scala per garantire l’autenticità e la trasparenza dei contenuti digitali in tutte le fasi della loro distribuzione.
A partire dal primo trimestre del 2025, Adobe lancerà la versione beta di questa applicazione web, inizialmente rivolta ai creatori di contenuti, in modo che possano aggiungere queste credenziali ai loro lavori.
Ma l’accesso non sarà limitato a chi utilizza i prodotti Adobe. Chiunque, anche chi non è abbonato alla suite software di Adobe, potrà utilizzare questo strumento per proteggere il proprio lavoro.
Adobe non è sola
L’azienda ha ottenuto il supporto di attori chiave nel settore della tecnologia e della creazione di contenuti, come Microsoft, Google, Meta, OpenAI e produttori di fotocamere come Leica, Sony e Canon.
Ciò significa che le credenziali dei contenuti saranno presenti non solo nei prodotti software, ma anche nei dispositivi fisici come le fotocamere.
L’integrazione di questo sistema in dispositivi come la Leica M11 o i prossimi modelli Sony Alpha consentirà ai fotografi di aggiungere informazioni sull’autenticità alle loro immagini direttamente dal momento in cui la fotografia viene catturata.
Nonostante questo massiccio sostegno, una delle sfide rimane l’adozione diffusa di queste credenziali su piattaforme di social media e siti web.
Nonostante colossi come Instagram, LinkedIn e TikTok siano già coinvolti nell’iniziativa, sono ancora molte le piattaforme che non mostrano visibilmente le informazioni sulla provenienza dei contenuti.
Per risolvere questo problema, Adobe ha anche rilasciato un’estensione del browser per Google Chrome (ancora in versione beta), che consentirà agli utenti di visualizzare le credenziali dei contenuti finché esistono.
In questo modo i consumatori possono verificare l’autenticità di immagini, video o file audio trovati online.
Una nuova era di trasparenza e controllo per i creatori
Sembra un po’ tardi per limitare l’uso dell’intelligenza artificiale, quindi l’unica cosa che resta da fare è garantire che venga utilizzata in modo etico e trasparente.
Con questo strumento di autenticità dei contenuti, i creatori saranno in grado di proteggere il proprio lavoro e garantire che non venga utilizzato senza il loro consenso nei set di dati per addestrare modelli di intelligenza artificiale.
Adobe, infatti, ha già integrato questa funzionalità nel proprio modello generativo, Firefly, che utilizza solo contenuti con le autorizzazioni appropriate per l’addestramento.
Questa iniziativa è anche in linea con il lavoro di Spawning, una piattaforma che consente agli artisti di controllare se le loro opere vengono utilizzate o meno per addestrare l’intelligenza artificiale.
Adobe ha lavorato a stretto contatto con Spawning per creare un elenco di lavori che non dovrebbero essere utilizzati nella formazione sull’intelligenza artificiale, a cui hanno già aderito aziende come Hugging Face e Stability AI.
This post is also available in: