L’intelligenza artificiale non smette mai di sorprenderci, e non sempre in meglio. Questa settimana, DeepSeek, un laboratorio cinese di intelligenza artificiale ben finanziato, ha lanciato il suo modello DeepSeek V3, progettato per attività complesse come la programmazione e la scrittura.
Il modello si è dimostrato efficiente e competitivo nei test benchmark, ma ha anche mostrato un difetto peculiare: è convinto che si tratti di ChatGPT, il famoso chatbot di OpenAI.
La “crisi d’identità” di DeepSeek V3
Utenti di social network ed esperti di tecnologia hanno condiviso test in cui DeepSeek V3 non solo si presenta come ChatGPT, ma insiste nel voler essere una versione di GPT-4 rilasciata da OpenAI nel 2023.
Quando vengono richieste istruzioni relative a DeepSeek, risponde con informazioni sulle API OpenAI. Racconta anche le stesse battute di GPT-4, replicandone le battute finali.
Questo comportamento errato ha suscitato risate e preoccupazioni. Mentre i social media si riempiono di meme sulla “crisi d’identità” del modello, gli esperti di intelligenza artificiale mettono in guardia da problemi relativi all’addestramento del modello e all’integrità dei dati.
L’origine del problema
DeepSeek non ha rivelato molti dettagli sulle origini dati utilizzate per addestrare V3. Tuttavia, le indicazioni sono che il modello è stato esposto a testi generati da ChatGPT o GPT-4.
Ciò potrebbe essere accaduto accidentalmente, ma potrebbe anche trattarsi di una strategia deliberata per sfruttare la conoscenza di un altro modello.
Mike Cook, ricercatore di intelligenza artificiale al King’s College di Londra, paragona questa situazione al fare fotocopie di una fotocopia: “Ogni volta che replichiamo qualcosa senza la fonte originale, perdiamo informazioni e connessione con la realtà.”
Il risultato è un modello che non solo imita le risposte dell’originale, ma ne eredita anche gli errori e i pregiudizi.
L’utilizzo dei dati generati da ChatGPT potrebbe anche violare i termini di servizio di OpenAI, che vietano l’utilizzo dei suoi output per addestrare modelli che competono con i suoi prodotti.
Inutile dire che questo problema, se dimostrato vero, solleva questioni legali sulla trasparenza e sulle pratiche etiche nello sviluppo dell’IA.
Un problema di contaminazione dei dati
Il caso DeepSeek V3 riflette un problema più ampio nel settore dell’intelligenza artificiale: la contaminazione dei dati. Con il crescente utilizzo di modelli generativi, il web è saturo di contenuti generati dall’intelligenza artificiale.
Si stima che entro il 2026 il 90% dei contenuti online potrebbe essere creato da sistemi automatizzati. Questa situazione rende difficile filtrare adeguatamente i dati utilizzati per addestrare nuovi modelli.
Quando i modelli di intelligenza artificiale assorbono i dati generati da altri modelli, c’è il rischio di creare un ciclo di errori e pregiudizi.
Heidy Khlaaf, direttrice scientifica dell’AI presso l’AI Now Institute, ha spiegato che gli sviluppatori potrebbero essere tentati di ricorrere a queste pratiche per risparmiare sui costi, anche se ciò compromette la qualità del modello.
Reazioni del settore
L’industria si è affrettata a parlare apertamente. Sam Altman, CEO di OpenAI, ha pubblicato su
D’altra parte, DeepSeek non è l’unico modello che ha mostrato comportamenti simili. Google Gemini, ad esempio, è stato erroneamente identificato con altri sistemi, come il chatbot cinese Wenxinyiyan di Baidu.
Ciò suggerisce che il problema non è esclusivo di DeepSeek, ma piuttosto una conseguenza diffusa dell’addestramento di modelli con dati contaminati.
Implicazioni etiche e legali
L’incidente di DeepSeek V3 evidenzia l’urgenza di stabilire norme più severe sulla raccolta e l’utilizzo dei dati per addestrare l’intelligenza artificiale.
Senza un quadro giuridico chiaro, le aziende potrebbero dover affrontare costosi contenziosi e perdite di fiducia da parte del pubblico.
Inoltre, questi tipi di incidenti influiscono sulla reputazione dell’intero settore. Se non ci si può fidare dei modelli di intelligenza artificiale nemmeno per identificare la propria provenienza, come potranno guadagnare fiducia in settori critici come la sanità o la finanza?
Il futuro dell’IA dopo l’incidente
La controversia potrebbe accelerare lo sviluppo di tecnologie di mitigazione degli errori, come Recovery Augmented Generation Verification (RAG-V).
Queste soluzioni cercano di integrare fasi di verifica che migliorano l’accuratezza e l’affidabilità delle risposte generate dall’intelligenza artificiale.
Le soluzioni tecnologiche però non bastano. È essenziale che le aziende adottino pratiche etiche e trasparenti nello sviluppo dei modelli. Ciò include:
- Revisione e pulizia dei dati di allenamento.
- Rispettare le condizioni d’uso degli altri modelli.
- Implementare rigorosi controlli di qualità prima del lancio del prodotto.
Solo la punta di un iceberg
Il caso di DeepSeek V3, che si “auto-percepisce” come ChatGPT, ricorda le sfide e i rischi associati alla concorrenza nel campo dell’intelligenza artificiale.
Non dubitiamo che comportamenti simili verranno alla luce nei prossimi mesi e si parlerà addirittura di stagnazione nel settore dell’intelligenza artificiale.
Sebbene i social network possano ridere della situazione, le implicazioni legali, etiche e tecnologiche sono gravi. L’industria dell’intelligenza artificiale deve affrontare con urgenza questi problemi per evitare ulteriori danni alla sua reputazione e credibilità.
This post is also available in: