#Addio umani, ciao algoritmi: la decisione di TikTok che mette sotto scacco la moderazione online
Addio umani, ciao algoritmi”. Questa frase potrebbe riassumere l’ultima e controversa decisione di TikTok: sostituire centinaia di moderatori umani con sistemi di intelligenza artificiale in grado di rilevare ed eliminare contenuti dannosi in pochi secondi.
Quello che sembra un passo logico verso l’efficienza tecnologica è in realtà un movimento che apre un dibattito sul futuro della moderazione di Internet. L’intelligenza artificiale è abbastanza affidabile per decidere cosa vediamo e cosa non vediamo sui social media?
Il caso di TikTok non è isolato: l’automazione avanza su tutte le piattaforme digitali, spinta dalle nuove normative e dalla ricerca di costi inferiori. Tuttavia, siamo più sicuri con le macchine al timone o più vulnerabili che mai?
TikTok fa il salto verso l’automazione
TikTok ha annunciato il licenziamento di circa 300 dipendenti dalla sede londinese del dipartimento fiducia e sicurezza. Il loro lavoro, incentrato sulla revisione dei video e sulla decisione se soddisfano o meno le regole della piattaforma, sarà sostituito da algoritmi di intelligenza artificiale.
Non si tratta di un evento isolato, ma piuttosto parte di una riorganizzazione globale che ha già interessato altre sedi a Berlino e in Malesia, dove sono state tagliate anche centinaia di posizioni. L’azienda sostiene che questa decisione è supportata dai progressi nei suoi sistemi automatizzati.
Secondo i dati ufficiali, l’intelligenza artificiale di TikTok rimuove l’80% dei contenuti che violano le linee guida e rileva il 99% del materiale pericoloso anche prima che un utente lo segnali.
Inoltre, garantisce che l’automazione riduca l’esposizione dei restanti moderatori a scene violente o traumatiche, presentandola come una misura di protezione del lavoro.
La tempistica non è casuale: l’entrata in vigore dello UK Online Safety Act, che impone la rapida rimozione dei contenuti illegali e prevede multe milionarie, ha accelerato l’impegno tecnologico dell’azienda.
I numeri dietro la decisione
Nel 2024, i ricavi della piattaforma in Europa sono cresciuti del 38%, raggiungendo 6,3 miliardi di dollari, mentre le perdite sono scese da 1,4 miliardi nel 2023 a soli 485 milioni di dollari nell’ultimo anno.
Lungi dall’essere in crisi, l’azienda sta attraversando un momento di progresso che le consente di investire in nuovi strumenti. Infatti, ha annunciato un piano da 2 miliardi di dollari nel 2024 volto a rafforzare i suoi sistemi di moderazione basati sull’intelligenza artificiale.
La narrazione ufficiale è chiara: più efficienza, meno rischi umani e conformità più rapida alle impegnative normative europee. Ma sindacati e analisti offrono un’altra lettura.
Secondo la Communication Workers Union (CWU), dietro il discorso dell’innovazione si nasconde una strategia di riduzione dei costi e delocalizzazione.
Mentre un moderatore a Londra potrebbe guadagnare circa 2.000 sterline al mese, i lavoratori subappaltati in paesi come la Colombia ricevono salari otto volte inferiori per compiti simili.
Il ruolo dell’intelligenza artificiale nella moderazione dei contenuti
Piattaforme come TikTok, Facebook o YouTube utilizzano algoritmi addestrati per analizzare milioni di post in tempo reale e rilevare segni di violenza, nudità, incitamento all’odio o disinformazione.
Il suo vantaggio principale è la dimensione: nessun team umano potrebbe rivedere un tale volume di contenuti con la stessa velocità. L’intelligenza artificiale impara anche dai modelli precedenti e migliora ad ogni interazione.
Ciò ti consente di identificare comportamenti sospetti e agire anche prima che un utente segnali un video. In teoria, questa anticipazione riduce la diffusione di contenuti dannosi e protegge il pubblico più vulnerabile.
Tuttavia, non sono tutte luci. L’intelligenza artificiale ha difficoltà a comprendere il contesto culturale e linguistico di determinati messaggi. Una parola considerata offensiva in un Paese può essere innocua in un altro, e un meme ironico può essere un discorso di incitamento all’odio.
Questi errori generano sia falsi positivi (contenuti rimossi ingiustamente) che falsi negativi (post dannosi che passano inosservati).
Un futuro senza moderatori umani?
L’impegno di TikTok verso l’automazione ha sollevato una domanda chiave: le piattaforme digitali possono fare completamente a meno dei moderatori umani? A Londra, Berlino e in Malesia i tagli sono già una realtà.
Tuttavia, ci sono ancora centri regionali a Dublino e Lisbona che mantengono team umani incaricati di verificare casi complessi, indicando che la sostituzione totale non è ancora possibile.
Gli esempi internazionali mostrano che questo non è un processo isolato. Nel settore tecnologico c’è una chiara tendenza verso l’outsourcing e l’automazione con moderazione, sia per ridurre i costi che per conformarsi a normative più rigorose.
Tuttavia, l’esperienza dimostra che ci sono ambiti in cui l’intelligenza artificiale rimane insufficiente: l’individuazione di discorsi politici ambigui, notizie false ben congegnate o messaggi che dipendono fortemente dal contesto sociale e culturale.
Vantaggi dell’intelligenza artificiale con moderazione
L’uso dell’intelligenza artificiale nella moderazione dei social media presenta vantaggi che spiegano perché aziende come TikTok scommettono così tanto su di essa:
- Velocità e scalabilità senza precedenti: L’intelligenza artificiale può rivedere milioni di post in pochi secondi, cosa impossibile per un team umano. Ciò consente di fermare la diffusione di contenuti dannosi prima che raggiungano un’elevata visibilità.
- Maggiore efficienza nella conformità normativa: A fronte di leggi come lo UK Online Safety Act, che richiede la rimozione rapida di materiale illegale, gli algoritmi offrono alle piattaforme la capacità di rispondere in tempo reale ed evitare multe da milioni di dollari.
- Ridurre l’esposizione a materiale traumatico: La moderazione manuale di video violenti o inquietanti può influire sulla salute mentale dei lavoratori. Con l’intelligenza artificiale, gran parte di questi contenuti vengono filtrati automaticamente, riducendo il carico psicologico sui team umani.
- Disponibilità 24 ore su 24, 7 giorni su 7: A differenza degli esseri umani, i sistemi automatizzati non si fermano mai, garantendo un monitoraggio costante in tutti i fusi orari e in diversi paesi.
- Capacità di apprendimento continuo: Grazie all’addestramento con grandi volumi di dati, gli algoritmi migliorano nel tempo, affinando i criteri di rilevamento e diventando più precisi.
Avanzamento o battuta d’arresto per i social network?
La presenza dell’intelligenza artificiale nella moderazione dei contenuti segna un punto di svolta nell’interazione con i social media. È una decisione che ridefinisce la responsabilità delle piattaforme riguardo a ciò che gli utenti consumano e al modo in cui si sentono protetti.
Sebbene l’intelligenza artificiale offra velocità, disponibilità continua e minore esposizione a materiale traumatico per gli esseri umani, solleva anche dilemmi etici sulla censura, sui pregiudizi e sulla perdita del giudizio critico che solo un moderatore può fornire.
La vera sfida è trovare un equilibrio tra efficienza tecnologica e giudizio umano, garantendo che le reti rimangano spazi sicuri, trasparenti e culturalmente sensibili.
Il percorso verso la moderazione ideale non consiste nell’eliminare le persone, ma nell’integrare algoritmi e supervisione umana in modo da massimizzare la protezione senza sacrificare la comprensione e il contesto.
This post is also available in: