La capacità dell’intelligenza artificiale (AI) di generare contenuti sintetici continua a crescere. Dalle immagini ai video fino al testo e alla voce, le creazioni generate dall’intelligenza artificiale sono sempre più difficili da distinguere da quelle reali.
In particolare, il parlato generato dall’intelligenza artificiale ha sollevato notevoli preoccupazioni a causa del suo potenziale utilizzo per disinformazione, frode e altri scopi dannosi.
Qui esploriamo se sia possibile rilevare le voci generate dall’intelligenza artificiale e come vengono affrontate le sfide associate a questa tecnologia emergente.
L’ascesa del parlato generato dall’intelligenza artificiale
La sintesi vocale ha visto notevoli progressi grazie alle reti neurali profonde e ad altri progressi nell’apprendimento automatico. Strumenti come FakeYou e PlayHT hanno reso semplice la creazione di voci sintetiche realistiche, rendendole accessibili a un’ampia gamma di utenti.
Questi sistemi possono generare voci dal testo (TTS, sintesi vocale) o trasformare la voce di una persona in quella di un’altra (conversione vocale), conservando sfumature emotive e schemi respiratori del discorso originale.
Tuttavia, questa tecnologia è stata utilizzata anche per creare “deepfake” audio, in cui le voci di personaggi pubblici vengono falsificate per diffondere disinformazione o realizzare truffe.
Un caso recente riguardava una chiamata bufala che sembrava provenire dal presidente degli Stati Uniti Joe Biden, che scoraggiava gli elettori democratici alle primarie del New Hampshire. Questo incidente sottolinea l’urgente necessità di strumenti affidabili per rilevare l’audio generato dall’intelligenza artificiale.
Sfide nel rilevamento dell’audio generato dall’intelligenza artificiale
Rilevare le voci generate dall’intelligenza artificiale è intrinsecamente più complicato che rilevare immagini o video falsi. L’audio è un mezzo unidimensionale ed effimero, che rende difficile la revisione e l’analisi dei segnali di generazione dell’intelligenza artificiale.
Secondo Manjeet Rege, direttore del Center for Applied Artificial Intelligence dell’Università di St. Thomas, l’audio è privo di contesto visivo e di indizi che possano aiutare a identificare i falsi.
Gli attuali metodi di rilevamento si basano fortemente sull’apprendimento automatico, in cui i modelli vengono addestrati con grandi set di dati di voci reali e sintetiche. Cioè, utilizzare l’intelligenza artificiale per rilevare contenuti generati da altre IA.
Questi modelli cercano modelli e caratteristiche in grado di distinguere l’audio generato dall’intelligenza artificiale dall’audio reale. Tuttavia, questi sistemi devono affrontare diversi ostacoli:
- Variabilità dell’audio: l’audio può facilmente degradarsi a causa della compressione, dei rumori di fondo e di altri fattori, rendendo difficile il rilevamento accurato.
- Aggiornamento costante: con i nuovi modelli di generazione vocale AI rilasciati ogni settimana, i sistemi di rilevamento devono essere continuamente aggiornati per identificare le sottili differenze tra le voci reali e quelle generate.
- Limitazioni linguistiche: la maggior parte dei modelli attuali si concentra sull’inglese, il che significa che potrebbero non essere efficaci nel rilevare l’audio generato in spagnolo o in altre lingue.
Esiste qualcosa di efficace per rilevare i deepfake vocali?
Diverse istituzioni e aziende stanno sviluppando strumenti per rilevare le voci generate dall’intelligenza artificiale, anche se con risultati contrastanti. Un esperimento condotto da NPR (radio pubblica statunitense) ha testato 3 strumenti di rilevamento dei deepfake: Pindrop Security, AI or Not e AI Voice Detector.
I risultati variavano in modo significativo, con alcuni strumenti che non riuscivano a identificare le clip generate dall’intelligenza artificiale o etichettavano erroneamente le voci reali come false.
I ricercatori dell’Università di Granada (UGR) hanno sviluppato un sistema pionieristico per discernere se un audio è reale o generato dall’intelligenza artificiale, integrando modelli specifici per le voci di personalità spesso utilizzate nella disinformazione.
Questo strumento, parte della Cattedra RTVE-UGR, vuole essere una soluzione avanzata per la verifica delle notizie e il contrasto alla disinformazione.
Un altro studio condotto presso l’Università di Buffalo ha testato 14 strumenti di rilevamento dei deepfake audio e ha scoperto che nessuno era completamente affidabile. Gli strumenti testati includevano DeepFake-o-meter e AI or Not, con risultati che variano ampiamente a seconda dell’audio e delle condizioni di test.
Raccomandazioni e approcci combinati
Poiché gli strumenti attuali non sono completamente affidabili, gli esperti raccomandano un approccio combinato per rilevare i deepfake audio. Ciò include l’uso di più metodi di rilevamento e tecniche aggiuntive.
Ad esempio, quando possibile, è necessario eseguire un controllo incrociato dell’audio. Ciò comporta la conferma dell’autenticità dell’audio verificandolo da fonti indipendenti e affidabili.
Un’altra strategia prevede di prestare attenzione ai dettagli più sottili, come l’ascolto di irregolarità respiratorie, pause e intonazioni che potrebbero indicare la manipolazione dell’IA.
Altre strategie coinvolgono la psicologia, come mettere in discussione l’urgenza di una richiesta. Ad esempio, gli audio che richiedono urgentemente informazioni personali o finanziarie dovrebbero essere sempre trattati con sospetto, poiché questo senso di urgenza serve a impedire alle vittime di verificare le informazioni.
Grandi piattaforme come Meta e TikTok stanno sviluppando tecnologie per taggare i contenuti generati dall’intelligenza artificiale, che in futuro potrebbero includere anche l’audio.
Il futuro del rilevamento vocale creato dall’intelligenza artificiale
Poiché la tecnologia di generazione vocale basata sull’intelligenza artificiale continua ad evolversi, è essenziale che gli strumenti di rilevamento tengano il passo. La collaborazione tra gli sviluppatori di tecnologie di sintesi vocale e gli esperti di rilevamento può aumentare la precisione e l’efficacia di questi strumenti.
Inoltre, l’implementazione di policy e normative che richiedono l’identificazione dei contenuti generati dall’intelligenza artificiale può aiutare a mitigare l’impatto della disinformazione e di altri usi dannosi.
In sintesi, sebbene il rilevamento vocale generato dall’intelligenza artificiale presenti numerose sfide, i continui progressi nella ricerca e nello sviluppo di strumenti mirati promettono di migliorare la nostra capacità di identificare e mitigare i rischi associati.
È fondamentale che la società rimanga vigile e adotti approcci combinati per proteggersi dalle minacce emergenti poste da questa tecnologia in rapida evoluzione.
This post is also available in: