Man mano che i sistemi di intelligenza artificiale si integrano sempre più profondamente nella nostra vita quotidiana, è diventato evidente un problema preoccupante: i pregiudizi algoritmici.
Nonostante la percezione comune che le macchine siano imparziali e obiettive, la realtà è molto diversa. Errori sistematici nei dati di addestramento possono essere trasferiti direttamente alle nostre applicazioni.
Pertanto, lo Sviluppo software e l’intelligenza artificiale devono affrontare questa sfida per garantire che la tecnologia non perpetui discriminazioni o difetti logici.
Ciò solleva una domanda essenziale: in che modo gli esseri umani influenzano i pregiudizi dell’intelligenza artificiale e in che modo questi pregiudizi possono quindi influenzare le nostre decisioni?
Cos’è il bias nell’intelligenza artificiale?
In termini semplici, i bias nell’intelligenza artificiale si riferiscono a errori sistematici che si verificano nei processi o nei risultati di un algoritmo a causa di una distribuzione non uniforme o di una focalizzazione ristretta sui dati utilizzati per addestrarlo.
Questi pregiudizi non sono errori casuali, ma seguono piuttosto modelli prevedibili basati su fattori quali il genere, la razza, l’età o lo stato socioeconomico delle persone incluse (o escluse) nei set di dati.
Principali fonti di pregiudizio
Dati non rappresentativi
Gli algoritmi vengono addestrati su grandi volumi di dati storici, che riflettono le decisioni umane passate, ma se tali dati sono distorti, l’algoritmo replicherà e amplificherà tali errori.
Ad esempio, in campo medico, se un sistema di intelligenza artificiale viene addestrato con dati provenienti da pazienti appartenenti a una popolazione prevalentemente bianca, le sue previsioni potrebbero non essere altrettanto accurate per pazienti di altre etnie, il che può portare a diagnosi errate o imprecise.
Un caso degno di nota è quello di un algoritmo utilizzato negli Stati Uniti per dare priorità alle cure mediche, che sottostimava la gravità dei bisogni sanitari dei pazienti neri.
Questo perché i dati sulla formazione erano basati sui costi medici passati e i pazienti neri tendono a spendere meno per l’assistenza sanitaria a causa delle disparità sistemiche.
Selezione parziale delle funzionalità
Possono sorgere pregiudizi anche nella fase di selezione delle caratteristiche, che si riferisce alle variabili che i progettisti del sistema di intelligenza artificiale ritengono rilevanti per il modello.
A volte le caratteristiche selezionate possono essere influenzate da stereotipi sociali.
Ad esempio, nel caso dei sistemi di reclutamento basati sull’intelligenza artificiale, l’uso di caratteristiche come la scuola di origine o l’indirizzo di residenza può portare a un pregiudizio indiretto nei confronti dei candidati provenienti da contesti meno privilegiati.
Un esempio recente; Amazon ha sviluppato un sistema di reclutamento che, dopo un’analisi dei curriculum storici, penalizzava le donne perché i dati forniti erano dominati dai curriculum degli uomini.
Sebbene l’algoritmo non abbia selezionato attivamente in base al genere, ha imparato indirettamente a dare la preferenza agli uomini in base a modelli precedenti.
Pregiudizi culturali e sociali
L’intelligenza artificiale eredita anche i pregiudizi culturali della società. Poiché gli algoritmi apprendono dai dati storici generati dall’uomo, riflettono i pregiudizi sociali esistenti.
Se un’intelligenza artificiale viene addestrata con dati che riflettono le disuguaglianze strutturali nella società, è probabile che tali pregiudizi vengano amplificati nelle future decisioni dell’intelligenza artificiale.
Un algoritmo di riconoscimento facciale sviluppato da IBM, Microsoft e altri ha mostrato errori significativi nel tentativo di identificare i volti di donne e persone dalla pelle scura, il che dimostra che i modelli erano stati addestrati prevalentemente con immagini di uomini bianchi.
Questi errori non solo perpetuano la discriminazione in applicazioni come quelle di polizia, ma potrebbero rafforzare stereotipi dannosi a livello sociale.
Distorsioni nell’interazione umana
Un aspetto meno discusso, ma molto rilevante, è il modo in cui i pregiudizi dell’intelligenza artificiale possono, a loro volta, influenzare i pregiudizi umani.
Secondo studi recenti, i professionisti che lavorano con sistemi di intelligenza artificiale tendono a fidarsi ciecamente delle raccomandazioni della macchina, anche quando sono errate.
Ciò può portare le persone a perpetuare e ad accettare i pregiudizi derivanti dalle raccomandazioni algoritmiche.
In uno studio sulla prescrizione di antidepressivi, è stato osservato che i medici che seguivano le raccomandazioni errate generate dall’intelligenza artificiale avevano maggiori probabilità di commettere errori rispetto a quelli che non avevano ricevuto tali suggerimenti.
La cosa allarmante è che i medici hanno iniziato a integrare questi errori nei loro processi decisionali, dimostrando che l’intelligenza artificiale non solo può ereditare i pregiudizi umani, ma può anche amplificarli nell’interazione umana.
Conseguenze dei bias nell’intelligenza artificiale
Le conseguenze dei bias nell’IA possono essere devastanti, soprattutto in contesti ad alto rischio, come quello sanitario o giudiziario. Un algoritmo distorto potrebbe portare a gravi errori medici, decisioni giudiziarie ingiuste o pratiche discriminatorie sul posto di lavoro.
Inoltre, questi pregiudizi possono avere effetti a lungo termine, poiché possono modellare le decisioni umane sulla base di raccomandazioni errate.
In ambito clinico, ad esempio, è stato dimostrato che i sistemi diagnostici basati sull’intelligenza artificiale, nonostante la loro elevata precisione, a volte falliscono in casi particolari che colpiscono alcuni gruppi sottorappresentati.
Ciò può portare a cure mediche ineguali, in cui alcuni pazienti non ricevono cure adeguate a causa della mancanza di rappresentatività dei dati su cui è stata addestrata l’IA.
Come mitigare i bias nell’intelligenza artificiale?
Diversificazione dei dati
È fondamentale che i set di dati utilizzati per addestrare gli algoritmi includano una rappresentazione più ampia e diversificata della popolazione.
Ciò può aiutare a mitigare alcuni pregiudizi, anche se non li eliminerà completamente. Ancora più importante è la convalida di questi modelli in situazioni del mondo reale per garantire che i pregiudizi non persistano.
Supervisione umana
È essenziale che gli esseri umani mantengano un ruolo attivo nel prendere le decisioni finali. Sebbene l’intelligenza artificiale possa offrire preziosi consigli, gli esperti devono essere formati per identificare potenziali errori o pregiudizi in tali suggerimenti.
Questa supervisione è particolarmente importante nelle aree in cui gli errori possono avere conseguenze gravi.
Sviluppo di strumenti di audit algoritmico
Attualmente si stanno sviluppando strumenti che consentono di verificare gli algoritmi per identificare i bias.
Ciò comporta la revisione dei processi di formazione dell’IA e dei risultati delle sue decisioni per rilevare e correggere gli errori prima che vengano applicati in contesti del mondo reale.
AI is neither infallible nor impartial
I bias nell’intelligenza artificiale rappresentano un problema complesso e a più livelli, derivante dai dati su cui viene addestrata, ma che può anche influenzare il processo decisionale umano.
L’eccessivo affidamento alle raccomandazioni di questi sistemi, abbinato a dati sbilanciati o non rappresentativi, può portare al perpetuarsi e all’amplificazione dei pregiudizi in vari ambiti.
È quindi essenziale che sia i progettisti che gli utenti dell’intelligenza artificiale adottino un approccio critico e consapevole, riconoscendo che queste tecnologie, sebbene potenti, non sono infallibili e, come qualsiasi strumento, possono riflettere e perpetuare i pregiudizi umani se non gestite con attenzione.
This post is also available in: