Sapevi che l’intelligenza artificiale (AI) potrebbe essere utilizzata per creare armi biologiche? Fortunatamente, strumenti come OpenAI sono in continua evoluzione per evitare ciò.
In un recente sviluppo, OpenAI ha implementato nuove misure di salvaguardia nei suoi modelli di intelligenza artificiale più avanzati, o3 e o4-mini, per impedire che vengano utilizzati per creare minacce biologiche e chimiche.
Ma cosa sono esattamente queste tutele e perché sono così importanti? Continua a leggere e scopri quali sono le tutele dell’IA, i rischi generali connessi al suo utilizzo e, in particolare, i biorischi che preoccupano così tanto gli esperti.
Cosa sono le salvaguardie dell’IA?
Le salvaguardie nell’IA funzionano come freni di sicurezza: meccanismi che identificano e bloccano usi che potrebbero essere dannosi. Nel caso di OpenAI, questo sistema è chiamato monitor del ragionamento incentrato sulla sicurezza.
Questo componente personalizzato viene eseguito sui modelli o3 e o4‑mini, analizza ogni query e rifiuta quelle relative a rischi biologici o chimici, restituendo un avviso invece di istruzioni pericolose (techcrunch.com).
Per addestrare questo monitor, OpenAI disponeva di un team di red teamer che ha trascorso quasi 1.000 ore a identificare conversazioni non sicure ed etichettare migliaia di esempi di richieste rischiose.
In questo modo il sistema impara a riconoscere modelli che potrebbero indicare la creazione di armi biologiche, tossine o agenti chimici dannosi.
Rischi generali legati all’IA
Sebbene i rischi biologici attirino l’attenzione per la loro gravità, l’intelligenza artificiale presenta altre minacce su larga scala che vale la pena ricordare:
- Pregiudizi e discriminazioni: gli algoritmi addestrati con dati parziali possono perpetuare i pregiudizi esistenti e influenzare negativamente i gruppi vulnerabili.
- Spostamento di posti di lavoro: l’automazione minaccia i posti di lavoro nel settore manifatturiero, nel servizio clienti e in altri settori, generando sfide sociali ed economiche.
- Deepfake e disinformazione: la creazione di contenuti audiovisivi falsificati può minare la fiducia del pubblico e agevolare le campagne di disinformazione.
- Eccessiva dipendenza: la fiducia cieca nei sistemi di intelligenza artificiale può erodere le capacità umane, come il pensiero critico e la risoluzione dei problemi.
Sebbene questi rischi richiedano quadri normativi e controlli costanti, i biorischi aggiungono uno strato di complessità a causa del loro potenziale catastrofico.
Cosa sono i rischi biologici?
I biorischi comprendono le minacce derivanti dalla manipolazione di agenti biologici. Con l’intelligenza artificiale, anche gli utenti senza formazione specializzata potrebbero progettare biotossine, ottimizzare agenti infettivi o persino creare armi biologiche.
Anche se può sembrare incredibile, gli algoritmi dell’intelligenza artificiale possono analizzare sequenze genetiche e prevedere mutazioni che aumentano la letalità o la resistenza degli agenti patogeni. Oppure potrebbero identificare combinazioni genetiche che aumentano la trasmissibilità, l’evasione immunitaria o la resistenza ai trattamenti.
Infine, gli strumenti progettati per accelerare le scoperte mediche possono essere reindirizzati verso fini distruttivi. Cioè, trasformare qualcosa di benefico in un’arma biologica.
Misure di salvaguardia implementate da OpenAI
Secondo il rapporto di OpenAI, il monitoraggio del ragionamento ha dimostrato un tasso di rifiuto del 98,7% rispetto alle richieste ad alto rischio durante i test interni. Quando rileva uno schema pericoloso, il sistema interrompe la generazione della risposta e invia un messaggio esplicativo, descrivendo il motivo per cui non può essere d’aiuto con quella query.
Inoltre, OpenAI ha aggiornato il suo Preparedness Framework, una serie di linee guida per valutare i livelli di rischio e definire protocolli d’azione:
- Soglia alta: se un modello può consentire a un utente inesperto di replicare minacce note, sono necessari controlli aggiuntivi prima di distribuirlo in produzione
- Soglia critica: se il modello è in grado di assistere gli esperti nello sviluppo di nuove minacce altamente pericolose, il suo lancio verrà interrotto fino a quando le misure di sicurezza non saranno rafforzate e non saranno effettuati audit approfonditi
Con questa classificazione OpenAI decide se procedere con il rilascio, ritardare l’implementazione per migliorare le misure di sicurezza o scartare il progetto nella sua fase attuale.
Valutazione continua e sfide future
Sebbene il sistema abbia avuto successo nei test, OpenAI riconosce i limiti principali. Innanzitutto esiste la possibilità di eludere i filtri. I test non hanno simulato utenti persistenti che riformulavano le loro query per aggirare il monitor.
Inoltre, nonostante l’automazione, il monitoraggio da parte di esperti rimane essenziale per identificare nuove tattiche dannose.
Infine c’è la pressione competitiva. Alcuni hanno sottolineato scadenze molto strette per la valutazione dei modelli, che potrebbero compromettere la profondità dei test.
Per affrontare queste sfide, OpenAI collabora con laboratori come Los Alamos e terze parti specializzate in biosicurezza, perfezionando continuamente i suoi classificatori e protocolli. Prevede inoltre di espandere la propria rete di valutatori indipendenti e pubblicare rapporti sulla sicurezza con maggiore trasparenza.
Verso un uso responsabile dell’IA
L’adozione di massa dell’intelligenza artificiale richiede un equilibrio tra innovazione e cautela. Le misure di OpenAI rappresentano un progresso importante, ma non devono essere intese come una soluzione definitiva. I governi, le istituzioni accademiche e l’industria tecnologica devono:
- Sviluppare quadri normativi globali che coordinino gli standard di biosicurezza.
- Promuovere la trasparenza attraverso la pubblicazione di rapporti sulla sicurezza e audit indipendenti.
- Promuovere la formazione in bioetica e sicurezza informatica per gli sviluppatori e gli utenti dell’IA.
Solo con un approccio collaborativo e multidisciplinare possiamo sfruttare il potenziale dell’intelligenza artificiale senza esporre l’umanità a nuovi pericoli.
L’intelligenza artificiale offre opportunità senza precedenti, da diagnosi mediche più rapide all’ottimizzazione dei processi industriali. Ma, come abbiamo visto, può anche facilitare la creazione di minacce biologiche.
Le salvaguardie di OpenAI rappresentano un passo avanti, dimostrando che è possibile anticipare gli abusi della tecnologia. Tuttavia, la sicurezza non è mai statica: dobbiamo rimanere vigili e impegnati nel miglioramento continuo di questi sistemi per garantire un futuro in cui l’intelligenza artificiale sia una forza di progresso e non di distruzione.
This post is also available in: