{"id":26407,"date":"2024-08-07T17:39:28","date_gmt":"2024-08-07T15:39:28","guid":{"rendered":"https:\/\/comunicagenia.com\/blog\/come-rilevare-laudio-falso-creato-dallintelligenza-artificiale-deepfake-vocali\/"},"modified":"2024-08-07T17:39:28","modified_gmt":"2024-08-07T15:39:28","slug":"come-rilevare-laudio-falso-creato-dallintelligenza-artificiale-deepfake-vocali","status":"publish","type":"post","link":"https:\/\/comunicagenia.com\/it\/blog\/come-rilevare-laudio-falso-creato-dallintelligenza-artificiale-deepfake-vocali\/","title":{"rendered":"Come rilevare l’audio falso creato dall’intelligenza artificiale? Deepfake vocali"},"content":{"rendered":"

La capacit\u00e0 dell\u2019intelligenza artificiale (AI) di generare contenuti sintetici continua a crescere. Dalle immagini ai video fino al testo e alla voce, le creazioni generate dall’intelligenza artificiale sono sempre pi\u00f9 difficili da distinguere da quelle reali.<\/p>\n

In particolare, il parlato generato dall\u2019intelligenza artificiale ha sollevato notevoli preoccupazioni a causa del suo potenziale utilizzo per disinformazione, frode e altri scopi dannosi.<\/p>\n

Qui esploriamo se sia possibile rilevare le voci generate dall\u2019intelligenza artificiale e come vengono affrontate le sfide associate a questa tecnologia emergente.<\/p>\n

L’ascesa del parlato generato dall’intelligenza artificiale<\/h2>\n

La sintesi vocale ha visto notevoli progressi grazie alle reti neurali profonde e ad altri progressi nell\u2019apprendimento automatico. Strumenti come FakeYou e PlayHT hanno reso semplice la creazione di voci sintetiche realistiche, rendendole accessibili a un’ampia gamma di utenti.<\/p>\n

Questi sistemi possono generare voci dal testo (TTS, sintesi vocale<\/strong>) o trasformare la voce di una persona in quella di un’altra (conversione vocale<\/strong>), conservando sfumature emotive e schemi respiratori del discorso originale.<\/p>\n

Tuttavia, questa tecnologia \u00e8 stata utilizzata anche per creare “deepfake” audio, in cui le voci di personaggi pubblici vengono falsificate per diffondere disinformazione o realizzare truffe.<\/p>\n

Un caso recente riguardava una chiamata bufala<\/strong> che sembrava provenire dal presidente degli Stati Uniti Joe Biden<\/strong>, che scoraggiava gli elettori democratici alle primarie del New Hampshire. Questo incidente sottolinea l\u2019urgente necessit\u00e0 di strumenti affidabili per rilevare l\u2019audio generato dall\u2019intelligenza artificiale.<\/p>\n

Sfide nel rilevamento dell’audio generato dall’intelligenza artificiale<\/h2>\n

Rilevare le voci generate dall\u2019intelligenza artificiale \u00e8 intrinsecamente pi\u00f9 complicato che rilevare immagini o video falsi. L’audio \u00e8 un mezzo unidimensionale ed effimero, che rende difficile la revisione e l’analisi dei segnali di generazione dell’intelligenza artificiale.<\/p>\n

Secondo Manjeet Rege, direttore del Center for Applied Artificial Intelligence dell’Universit\u00e0 di St. Thomas, l’audio \u00e8 privo di contesto visivo e di indizi che possano aiutare a identificare i falsi.<\/p>\n

Gli attuali metodi di rilevamento si basano fortemente sull\u2019apprendimento automatico, in cui i modelli vengono addestrati con grandi set di dati di voci reali e sintetiche. Cio\u00e8, utilizzare l\u2019intelligenza artificiale per rilevare contenuti generati da altre IA.<\/p>\n

Questi modelli cercano modelli e caratteristiche in grado di distinguere l’audio generato dall’intelligenza artificiale dall’audio reale. Tuttavia, questi sistemi devono affrontare diversi ostacoli:<\/p>\n

    \n
  • Variabilit\u00e0 dell’audio: l’audio pu\u00f2 facilmente degradarsi<\/strong> a causa della compressione, dei rumori di fondo e di altri fattori, rendendo difficile il rilevamento accurato.<\/li>\n<\/ul>\n
      \n
    • Aggiornamento costante: con i nuovi modelli di generazione vocale AI rilasciati ogni settimana, i sistemi di rilevamento devono essere continuamente aggiornati<\/strong> per identificare le sottili differenze tra le voci reali e quelle generate.<\/li>\n<\/ul>\n
        \n
      • Limitazioni linguistiche: la maggior parte dei modelli attuali si concentra sull’inglese<\/strong>, il che significa che potrebbero non essere efficaci nel rilevare l’audio generato in spagnolo o in altre lingue.<\/li>\n<\/ul>\n

        Esiste qualcosa di efficace per rilevare i deepfake vocali?<\/h2>\n

        Diverse istituzioni e aziende stanno sviluppando strumenti per rilevare le voci generate dall\u2019intelligenza artificiale, anche se con risultati contrastanti. Un esperimento condotto da NPR (radio pubblica statunitense) ha testato 3 strumenti di rilevamento dei deepfake: Pindrop Security, AI or Not e AI Voice Detector.<\/p>\n

        I risultati variavano in modo significativo, con alcuni strumenti che non riuscivano<\/strong> a identificare le clip generate dall’intelligenza artificiale o etichettavano erroneamente le voci reali come false.<\/p>\n

        I ricercatori dell’Universit\u00e0 di Granada<\/strong> (UGR) hanno sviluppato un sistema pionieristico per discernere se un audio \u00e8 reale o generato dall’intelligenza artificiale, integrando modelli specifici per le voci di personalit\u00e0 spesso utilizzate nella disinformazione.<\/p>\n

        Questo strumento, parte della Cattedra RTVE-UGR, vuole essere una soluzione avanzata per la verifica delle notizie e il contrasto alla disinformazione.<\/p>\n

        Un altro studio condotto presso l\u2019Universit\u00e0 di Buffalo ha testato 14 strumenti di rilevamento dei deepfake audio e ha scoperto che nessuno era completamente affidabile. Gli strumenti testati includevano DeepFake-o-meter e AI or Not, con risultati che variano ampiamente a seconda dell’audio e delle condizioni di test.<\/p>\n

        Raccomandazioni e approcci combinati<\/h2>\n

        Poich\u00e9 gli strumenti attuali non sono completamente affidabili<\/strong>, gli esperti raccomandano un approccio combinato per rilevare i deepfake audio. Ci\u00f2 include l’uso di pi\u00f9 metodi di rilevamento e tecniche aggiuntive.<\/p>\n

        Ad esempio, quando possibile, \u00e8 necessario eseguire un controllo incrociato<\/strong> dell’audio. Ci\u00f2 comporta la conferma dell’autenticit\u00e0 dell’audio verificandolo da fonti indipendenti e affidabili.<\/p>\n

        Un\u2019altra strategia prevede di prestare attenzione ai dettagli pi\u00f9 sottili, come l\u2019ascolto di irregolarit\u00e0 respiratorie, pause e intonazioni che potrebbero indicare la manipolazione dell\u2019IA.<\/p>\n

        Altre strategie coinvolgono la psicologia, come mettere in discussione l’urgenza di una richiesta<\/strong>. Ad esempio, gli audio che richiedono urgentemente informazioni personali o finanziarie dovrebbero essere sempre trattati con sospetto, poich\u00e9 questo senso di urgenza serve a impedire alle vittime di verificare le informazioni.<\/p>\n

        Grandi piattaforme come Meta e TikTok stanno sviluppando tecnologie per taggare i contenuti generati dall\u2019intelligenza artificiale<\/strong>, che in futuro potrebbero includere anche l\u2019audio.<\/p>\n

        Il futuro del rilevamento vocale creato dall’intelligenza artificiale<\/h2>\n

        Poich\u00e9 la tecnologia di generazione vocale basata sull\u2019intelligenza artificiale continua ad evolversi, \u00e8 essenziale che gli strumenti di rilevamento tengano il passo. La collaborazione tra gli sviluppatori di tecnologie di sintesi vocale e gli esperti di rilevamento pu\u00f2 aumentare la precisione e l’efficacia di questi strumenti.<\/p>\n

        Inoltre, l\u2019implementazione di policy e normative che richiedono l\u2019identificazione dei contenuti generati dall\u2019intelligenza artificiale pu\u00f2 aiutare a mitigare l\u2019impatto della disinformazione e di altri usi dannosi.<\/p>\n

        In sintesi, sebbene il rilevamento vocale generato dall\u2019intelligenza artificiale presenti numerose sfide, i continui progressi nella ricerca e nello sviluppo di strumenti mirati promettono di migliorare la nostra capacit\u00e0 di identificare e mitigare i rischi associati.<\/p>\n

        \u00c8 fondamentale che la societ\u00e0 rimanga vigile e adotti approcci combinati per proteggersi dalle minacce emergenti poste da questa tecnologia in rapida evoluzione.<\/p>\n","protected":false},"excerpt":{"rendered":"

        La capacit\u00e0 dell\u2019intelligenza artificiale (AI) di generare contenuti sintetici continua a crescere. Dalle immagini ai video fino al testo e alla voce, le creazioni generate dall’intelligenza artificiale sono sempre pi\u00f9 difficili da distinguere da quelle reali. In particolare, il parlato generato dall\u2019intelligenza artificiale ha sollevato notevoli preoccupazioni a causa del suo potenziale utilizzo per disinformazione, […]<\/p>\n","protected":false},"author":9,"featured_media":14185,"comment_status":"open","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"_uag_custom_page_level_css":"","_thinkrank_schema_form_data":"","_thinkrank_selected_schema_type":"","_thinkrank_additional_schemas":"","_thinkrank_canonical_url":"","_thinkrank_og_title":"","_thinkrank_og_description":"","_thinkrank_og_image":"","_thinkrank_twitter_title":"","_thinkrank_twitter_description":"","_thinkrank_twitter_image":"","_thinkrank_imported_from":"","_thinkrank_focus_keywords":[],"_thinkrank_focus_keyword":"","_thinkrank_robots_meta_enabled":0,"_thinkrank_robots_meta":"","_thinkrank_advanced_robots_meta":"","_thinkrank_exclude_from_search":0,"_thinkrank_exclude_from_archives":0,"_thinkrank_primary_category":0,"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[716],"tags":[],"class_list":["post-26407","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-intelligenza-artificiale"],"uagb_featured_image_src":{"full":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2024\/08\/detectar-audios-falsos-ia.jpg",1344,768,false],"thumbnail":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2024\/08\/detectar-audios-falsos-ia-150x150.jpg",150,150,true],"medium":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2024\/08\/detectar-audios-falsos-ia-300x171.jpg",300,171,true],"medium_large":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2024\/08\/detectar-audios-falsos-ia-768x439.jpg",768,439,true],"large":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2024\/08\/detectar-audios-falsos-ia-1024x585.jpg",1024,585,true],"1536x1536":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2024\/08\/detectar-audios-falsos-ia-1536x878.jpg",1536,878,true],"2048x2048":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2024\/08\/detectar-audios-falsos-ia.jpg",1344,768,false]},"uagb_author_info":{"display_name":"marketing","author_link":"https:\/\/comunicagenia.com\/it\/blog\/author\/marketing\/"},"uagb_comment_info":0,"uagb_excerpt":"La capacit\u00e0 dell\u2019intelligenza artificiale (AI) di generare contenuti sintetici continua a crescere. Dalle immagini ai video fino al testo e alla voce, le creazioni generate dall’intelligenza artificiale sono sempre pi\u00f9 difficili da distinguere da quelle reali. In particolare, il parlato generato dall\u2019intelligenza artificiale ha sollevato notevoli preoccupazioni a causa del suo potenziale utilizzo per disinformazione,…","_links":{"self":[{"href":"https:\/\/comunicagenia.com\/it\/wp-json\/wp\/v2\/posts\/26407","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/comunicagenia.com\/it\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/comunicagenia.com\/it\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/comunicagenia.com\/it\/wp-json\/wp\/v2\/users\/9"}],"replies":[{"embeddable":true,"href":"https:\/\/comunicagenia.com\/it\/wp-json\/wp\/v2\/comments?post=26407"}],"version-history":[{"count":0,"href":"https:\/\/comunicagenia.com\/it\/wp-json\/wp\/v2\/posts\/26407\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/comunicagenia.com\/it\/wp-json\/wp\/v2\/media\/14185"}],"wp:attachment":[{"href":"https:\/\/comunicagenia.com\/it\/wp-json\/wp\/v2\/media?parent=26407"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/comunicagenia.com\/it\/wp-json\/wp\/v2\/categories?post=26407"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/comunicagenia.com\/it\/wp-json\/wp\/v2\/tags?post=26407"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}