Non c’è dubbio che l’ascesa dei modelli linguistici su larga scala (LLM) ha moltiplicato la quantità di contenuti scritti con l’intelligenza artificiale, grazie alla loro capacità di generare testi fluidi e coerenti.
Ciò ha sollevato preoccupazioni sull’autenticità delle informazioni e sul rischio di disinformazione, poiché è difficile distinguere tra testo umano e testo generato dall’intelligenza artificiale.
Per affrontare questo problema, il team di Google DeepMind ha sviluppato SynthID, uno strumento dell’ecosistema di innovazione Gemini (watermark) che consente di identificare con precisione se il contenuto è stato creato da un modello di intelligenza artificiale.
Inoltre, hanno recentemente rilasciato la tecnologia alla base di SynthID per il testo, in modo che possa essere utilizzata pubblicamente e gratuitamente.
In questo articolo spieghiamo come funziona SynthID per il testo, quali sono i suoi limiti e perché identificare i contenuti generati dall’intelligenza artificiale è fondamentale per garantire l’uso sicuro e responsabile di queste tecnologie.
Cos’è SynthID-Text e come funziona?
SynthID-Text è un sistema di watermarking che consente di identificare se un testo è stato generato da un modello AI, senza compromettere la qualità del contenuto o aumentare significativamente i costi di elaborazione.
A differenza di altri metodi, questo approccio è integrato durante il processo di generazione del testo, consentendo di aggiungere markup impercettibili senza la necessità di modificare il modello linguistico sottostante.
SynthID-Text utilizza un processo chiamato Tournament Sampling, che altera sottilmente la selezione delle parole che compongono il testo generato.
Invece di scegliere semplicemente il token con la probabilità più alta, l’algoritmo regola la probabilità delle parole selezionate, introducendo un modello statistico che funziona come una filigrana.
Questo modello non è rilevabile dai lettori umani e non influisce sulla coerenza o sulla qualità del testo.
La cosa più rilevante è che, durante la fase di rilevamento, questo marchio può essere identificato senza la necessità di eseguire operazioni computazionalmente complesse o avere accesso al modello originale, il che è un vantaggio negli ambienti di produzione.
Un esempio di come funziona SynthID-Text
Immagina che utilizzino un modello linguistico, come Google Gemini, che ha SynthID integrato. Immaginiamo anche che tu voglia generare un articolo sulla sostenibilità ambientale.
Durante la generazione del testo, il modello linguistico assegna probabilità a ciascuna parola in base al contesto e al testo generato fino a quel momento.
Ad esempio, se la frase in costruzione è “La sostenibilità è importante perché”, il modello potrebbe assegnare alte probabilità a parole come “riduce”, “promuove” o “aumenta”. È qui che entra in gioco il processo di campionamento del torneo.
Invece di selezionare solo la parola più probabile, il sistema introduce sottili modifiche alle probabilità di selezione delle parole per inserire una filigrana.
Ad esempio, la parola “riduce” potrebbe avere una probabilità del 60%, mentre “promuove” è impostata al 25% e “aumenta” è impostata al 15%.
Con il watermarking, il modello SynthID potrebbe regolare le probabilità in modo che “riduce” diventi il 57%, “promuove” diventi il 28% e “aumenta” diventi il 15%. Questa leggera modifica introduce un modello che sarà utile per il rilevamento successivo.
Quando qualcuno esamina questo testo e vuole verificare se è stato generato da un modello AI utilizzando SynthID-Text, viene applicato un algoritmo di rilevamento che analizza il modello statistico del testo.
Questo algoritmo può misurare la “firma” del testo e determinare se soddisfa le caratteristiche della filigrana implementata.
Se il rilevamento ha esito positivo, il sistema confermerà che il testo è stato generato da un modello che utilizza la tecnologia SynthID-Text, consentendo così di identificarne l’origine senza richiedere l’accesso al modello originale.
L’importanza di contrassegnare i testi generati con l’intelligenza artificiale
La marcatura dei testi generati dall’intelligenza artificiale risponde alle sfide che si presentano con l’uso massiccio di queste tecnologie.
Innanzitutto abbiamo fiducia nelle informazioni. La crescente presenza di testo generato dall’intelligenza artificiale comporta il rischio di diffusione dei contenuti senza una chiara attribuzione. Identificare la sua origine è essenziale per mantenere la trasparenza.
Senza un sistema di identificazione efficace, i modelli linguistici possono essere utilizzati per diffondere disinformazione o generare contenuti dannosi, come spam o phishing.
In alcuni contesti, come l’istruzione e la ricerca scientifica, è importante sapere se un testo è stato prodotto da una persona o da un modello di intelligenza artificiale per evitare frodi e garantirne l’originalità.
Infine, ci sono potenziali sfide normative. Nel prossimo futuro, i governi potrebbero richiedere alle aziende di identificare quando utilizzano contenuti generati dall’intelligenza artificiale.
L’implementazione immediata del watermarking consentirà alle organizzazioni di anticipare queste richieste e incoraggiare un uso responsabile.
Limitazioni e sfide del watermarking con SynthID
Nonostante i suoi vantaggi, SynthID-Text non è una soluzione infallibile. Esistono sfide inerenti all’utilizzo di qualsiasi metodo di filigrana.
Sebbene la filigrana sia discreta, un utente malintenzionato potrebbe modificare il testo per provare a cancellare la filigrana senza comprometterne la coerenza. Google afferma che il marchio è resistente alla modifica leggera e al ritaglio del testo.
D’altra parte, SynthID-Text si concentra sull’identificazione di testi generati da specifici modelli di Google, il che implica che il suo uso diffuso richiederà la cooperazione tra diversi sviluppatori di intelligenza artificiale per stabilire uno standard comune.
Infine, nonostante il sistema si sia dimostrato sicuro ed efficiente, la sua efficacia potrebbe diminuire se applicato a modelli diversi da quelli per i quali è stato progettato.
Il testo è solo l’inizio
Il rilascio di SynthID da parte di Google segna un importante precedente nel settore, con la speranza che sia possibile integrare tecniche di watermarking senza compromettere l’esperienza dell’utente.
In definitiva, la capacità di identificare e attribuire il testo generato dall’intelligenza artificiale sarà fondamentale per mantenere la trasparenza e la fiducia nell’ecosistema digitale di oggi. E presto avremo strumenti simili per audio, immagini e video.
In un mondo in cui l’intelligenza artificiale è sempre più presente nelle nostre vite, strumenti come questo sono essenziali per garantire un uso sicuro ed etico della tecnologia.
This post is also available in: