--- title: Come rilevare l’audio falso creato dall’intelligenza artificiale? Deepfake vocali url: https://comunicagenia.com/it/blog/come-rilevare-laudio-falso-creato-dallintelligenza-artificiale-deepfake-vocali/ date: 2024-08-07T15:39:28+00:00 modified: 2024-08-07T15:39:28+00:00 lang: it_IT --- # Come rilevare l’audio falso creato dall’intelligenza artificiale? Deepfake vocali La capacità dell’intelligenza artificiale (AI) di generare contenuti sintetici continua a crescere. Dalle immagini ai video fino al testo e alla voce, le creazioni generate dall'intelligenza artificiale sono sempre più difficili da distinguere da quelle reali. In particolare, il parlato generato dall’intelligenza artificiale ha sollevato notevoli preoccupazioni a causa del suo potenziale utilizzo per disinformazione, frode e altri scopi dannosi. Qui esploriamo se sia possibile rilevare le voci generate dall’intelligenza artificiale e come vengono affrontate le sfide associate a questa tecnologia emergente. ## L'ascesa del parlato generato dall'intelligenza artificiale La sintesi vocale ha visto notevoli progressi grazie alle reti neurali profonde e ad altri progressi nell’apprendimento automatico. Strumenti come FakeYou e PlayHT hanno reso semplice la creazione di voci sintetiche realistiche, rendendole accessibili a un'ampia gamma di utenti. Questi sistemi possono generare voci dal testo (**TTS, sintesi vocale**) o trasformare la voce di una persona in quella di un'altra (**conversione vocale**), conservando sfumature emotive e schemi respiratori del discorso originale. Tuttavia, questa tecnologia è stata utilizzata anche per creare "deepfake" audio, in cui le voci di personaggi pubblici vengono falsificate per diffondere disinformazione o realizzare truffe. Un caso recente riguardava una **chiamata bufala** che sembrava provenire dal presidente degli Stati Uniti **Joe Biden**, che scoraggiava gli elettori democratici alle primarie del New Hampshire. Questo incidente sottolinea l’urgente necessità di strumenti affidabili per rilevare l’audio generato dall’intelligenza artificiale. ## Sfide nel rilevamento dell'audio generato dall'intelligenza artificiale Rilevare le voci generate dall’intelligenza artificiale è intrinsecamente più complicato che rilevare immagini o video falsi. L'audio è un mezzo unidimensionale ed effimero, che rende difficile la revisione e l'analisi dei segnali di generazione dell'intelligenza artificiale. Secondo Manjeet Rege, direttore del Center for Applied Artificial Intelligence dell'Università di St. Thomas, l'audio è privo di contesto visivo e di indizi che possano aiutare a identificare i falsi. Gli attuali metodi di rilevamento si basano fortemente sull’apprendimento automatico, in cui i modelli vengono addestrati con grandi set di dati di voci reali e sintetiche. Cioè, utilizzare l’intelligenza artificiale per rilevare contenuti generati da altre IA. Questi modelli cercano modelli e caratteristiche in grado di distinguere l'audio generato dall'intelligenza artificiale dall'audio reale. Tuttavia, questi sistemi devono affrontare diversi ostacoli: - Variabilità dell'audio: l'audio può facilmente **degradarsi** a causa della compressione, dei rumori di fondo e di altri fattori, rendendo difficile il rilevamento accurato. - Aggiornamento costante: con i nuovi modelli di generazione vocale AI rilasciati ogni settimana, i sistemi di rilevamento **devono essere continuamente aggiornati** per identificare le sottili differenze tra le voci reali e quelle generate. - Limitazioni linguistiche: la maggior parte dei modelli attuali si concentra sull'**inglese**, il che significa che potrebbero non essere efficaci nel rilevare l'audio generato in spagnolo o in altre lingue. ## Esiste qualcosa di efficace per rilevare i deepfake vocali? Diverse istituzioni e aziende stanno sviluppando strumenti per rilevare le voci generate dall’intelligenza artificiale, anche se con risultati contrastanti. Un esperimento condotto da NPR (radio pubblica statunitense) ha testato 3 strumenti di rilevamento dei deepfake: Pindrop Security, AI or Not e AI Voice Detector. I risultati variavano in modo significativo, con alcuni strumenti che **non riuscivano** a identificare le clip generate dall'intelligenza artificiale o etichettavano erroneamente le voci reali come false. I ricercatori dell'**Università di Granada** (UGR) hanno sviluppato un sistema pionieristico per discernere se un audio è reale o generato dall'intelligenza artificiale, integrando modelli specifici per le voci di personalità spesso utilizzate nella disinformazione. Questo strumento, parte della Cattedra RTVE-UGR, vuole essere una soluzione avanzata per la verifica delle notizie e il contrasto alla disinformazione. Un altro studio condotto presso l’Università di Buffalo ha testato 14 strumenti di rilevamento dei deepfake audio e ha scoperto che nessuno era completamente affidabile. Gli strumenti testati includevano DeepFake-o-meter e AI or Not, con risultati che variano ampiamente a seconda dell'audio e delle condizioni di test. ## Raccomandazioni e approcci combinati Poiché gli strumenti attuali **non sono completamente affidabili**, gli esperti raccomandano un approccio combinato per rilevare i deepfake audio. Ciò include l'uso di più metodi di rilevamento e tecniche aggiuntive. Ad esempio, quando possibile, è necessario eseguire un **controllo incrociato** dell'audio. Ciò comporta la conferma dell'autenticità dell'audio verificandolo da fonti indipendenti e affidabili. Un’altra strategia prevede di prestare attenzione ai dettagli più sottili, come l’ascolto di irregolarità respiratorie, pause e intonazioni che potrebbero indicare la manipolazione dell’IA. Altre strategie coinvolgono la psicologia, come **mettere in discussione l'urgenza di una richiesta**. Ad esempio, gli audio che richiedono urgentemente informazioni personali o finanziarie dovrebbero essere sempre trattati con sospetto, poiché questo senso di urgenza serve a impedire alle vittime di verificare le informazioni. Grandi piattaforme come **Meta e TikTok stanno sviluppando tecnologie per taggare i contenuti generati dall’intelligenza artificiale**, che in futuro potrebbero includere anche l’audio. ## Il futuro del rilevamento vocale creato dall'intelligenza artificiale Poiché la tecnologia di generazione vocale basata sull’intelligenza artificiale continua ad evolversi, è essenziale che gli strumenti di rilevamento tengano il passo. La collaborazione tra gli sviluppatori di tecnologie di sintesi vocale e gli esperti di rilevamento può aumentare la precisione e l'efficacia di questi strumenti. Inoltre, l’implementazione di policy e normative che richiedono l’identificazione dei contenuti generati dall’intelligenza artificiale può aiutare a mitigare l’impatto della disinformazione e di altri usi dannosi. In sintesi, sebbene il rilevamento vocale generato dall’intelligenza artificiale presenti numerose sfide, i continui progressi nella ricerca e nello sviluppo di strumenti mirati promettono di migliorare la nostra capacità di identificare e mitigare i rischi associati. È fondamentale che la società rimanga vigile e adotti approcci combinati per proteggersi dalle minacce emergenti poste da questa tecnologia in rapida evoluzione.