OpenAI ha lanciato GPT-4o mini, il suo modello più efficiente fino ad oggi, progettato per rendere l’intelligenza artificiale più accessibile e conveniente. Si prevede che questo modello sarà un componente fondamentale all’interno dell’ecosistema collaborativo OpenAI.
Secondo l’azienda, questo modello costa 0,15 dollari per milione di token di input e 0,60 dollari per milione di token di output, essendo più efficiente di oltre il 60% rispetto a GPT-3.5 Turbo.
A partire dal 19 luglio 2024, tutti gli utenti ChatGPT, sia con i piani Gratuito, Plus o Team, utilizzeranno questo modello anziché GPT-3.5. Gli utenti aziendali lo avranno a disposizione a partire dalla prossima settimana.
Cosa possiamo aspettarci dal nuovo modello? Cosa significa che è più economico dei suoi predecessori? Come si misura l’efficienza di un modello linguistico? Discuteremo di tutto questo e altro ancora di seguito.
##GPT-4o mini: il “piccolo” della famiglia
OpenAI ha introdotto GPT-4o mini come un modello linguistico “piccolo” che mantiene prestazioni elevate, riducendo significativamente i costi computazionali e il consumo energetico.
Questo modello promette di essere più accessibile e sostenibile, il che potrebbe facilitarne l’adozione e l’utilizzo in una varietà di applicazioni.
Secondo i risultati dei benchmark rilasciati da OpenAI, GPT-4o mini si posiziona come un’alternativa più efficiente ai modelli di grandi dimensioni come GPT-4o, mantenendo prestazioni competitive nelle attività di elaborazione del linguaggio naturale.
GPT-4o mini si presenta in un mercato dove sono già presenti altri modelli piccoli come Microsoft Phi-3 mini e Google Gemini Nano. Nonostante sembri un prodotto arrivato in ritardo, l’efficienza e la potenza del GPT-4o mini possono superare le versioni complete delle generazioni precedenti di modelli di altri fornitori.
Cosa significa che GPT-4o mini è un modello “piccolo”?
Un Large Language Model (LLM) come GPT viene descritto come “piccolo” o “grande” principalmente in base al numero di parametri di cui dispone. Si tratta di parti del modello che vengono adattate durante la formazione per migliorare le prestazioni su compiti specifici.
In generale, un maggior numero di parametri significa una migliore capacità del modello di comprendere e generare il linguaggio naturale in modo efficace. Ma significa anche che il modello necessita di più potenza computazionale (e quindi più energia) per funzionare.
GPT-4o mini ha parametri significativamente inferiori rispetto a modelli come GPT-4 o GPT-3.5. Ciò lo rende meno impegnativo dal punto di vista computazionale e più veloce da eseguire rispetto ai modelli più grandi.
Quanto è buono GPT-4o mini rispetto alla concorrenza?
Secondo i benchmark condotti da OpenAI, GPT-4o mini ottiene un punteggio dell’82% nel benchmark MMLU, superando GPT-4 nelle preferenze della chat e altri piccoli modelli nel ragionamento e nelle attività multimodali.
Supporta una finestra di contesto token da 128.000 e fino a 16.000 token di output per richiesta. Mentre la sua bassa latenza lo rende ideale per applicazioni che richiedono più chiamate di modello, grandi volumi di contesto o interazioni veloci in tempo reale.
Attualmente supporta testo e visione, con funzionalità future per testo, immagini, video e audio. Per quanto riguarda la sua multimodalità, GPT-4o mini è superiore nel ragionamento testuale e multimodale, con prestazioni eccezionali in matematica e codifica.
Come vengono misurati e confrontati gli LLM e i modelli multimodali?
Esistono strumenti e metodi utilizzati per testare e misurare le prestazioni dei modelli di intelligenza artificiale generativa, come i modelli di generazione di testo e immagini.
Questi sono essenziali per comprendere l’efficacia, l’accuratezza e la creatività di questi sistemi. I benchmark LLM sono set di dati standard e attività ampiamente adottati dalla comunità di ricerca per valutare e confrontare le prestazioni di vari modelli.
Questi vengono utilizzati per valutare quanto bene un modello di intelligenza artificiale possa generare contenuti coerenti, pertinenti e creativi, inclusi testo, immagini, musica e altri.
Consentono inoltre di confrontare diversi modelli di intelligenza artificiale per identificare quali sono più efficienti o creativi in compiti specifici. Testando i modelli rispetto a vari benchmark, è possibile identificare pregiudizi e limitazioni, come la capacità di generare testo in più lingue.
Inoltre, i benchmark forniscono un feedback essenziale durante lo sviluppo del modello di intelligenza artificiale, aiutando a perfezionare e migliorare l’algoritmo. Alcuni dei benchmark più noti e popolari per i LLM sono HellaSwag, MMLU e TruthfulQA.
Domande frequenti
Ecco alcune domande frequenti relative alla misurazione dell’efficienza dei modelli linguistici di grandi dimensioni (LLM) e al nuovo GPT-4o mini:
Cosa significa per un modello essere più efficiente o “economico”?
Ciò significa che il modello può generare risultati paragonabili a modelli più grandi e costosi, ma utilizzando meno risorse computazionali ed energetiche. Ciò ha un effetto anche sul tempo medio impiegato dal modello per generare la risposta, o latenza.
Come si confronta GPT-4o mini con GPT-4?
GPT-4o mini è una versione più efficiente di GPT-4o, progettata per offrire prestazioni simili con un costo computazionale inferiore. Il tutto ottenendo prestazioni di poco inferiori al modello più grande e complesso.
Qual è il vantaggio dei modelli linguistici “piccoli”, come GPT-4o mini?
Modelli piccoli come GPT-4o mini consentono un’ulteriore democratizzazione della tecnologia AI. Avere meno parametri significa che il modello può generare risposte più rapidamente, il che è fondamentale per le applicazioni in tempo reale.
Inoltre, i costi di formazione e implementazione sono inferiori, rendendo la tecnologia più praticabile per una gamma più ampia di applicazioni commerciali e accademiche.
Infine, un minore consumo energetico contribuisce a ridurre l’impatto ambientale, che è una considerazione importante nell’implementazione di tecnologie su larga scala.
GPT-4o mini e chiamate API multiple
Questa nuova IA di OpenAI supporta più chiamate API, il che si traduce in una bassa latenza e nella possibilità di eseguire diverse attività in parallelo.
Attualmente questa versione più leggera ed economica supporta testo e visione tramite l’API OpenAI e nel prossimo futuro incorporerà input e output di testo, immagini, video e audio.
Il nuovo modello GPT-4o mini è gratuito?
Ebbene sì, infatti è arrivato a sostituire GPT-3.5 nelle versioni gratuite. Infatti rispetto al GPT-3.5 turbo lo batte in tutti gli ambiti, quindi è un’ottima notizia per gli utenti gratuiti.
Fino a quale data è possibile addestrare GPT-4o mini?
Questa versione gratuita di ChatGPT è stata addestrata con dati risalenti all’ottobre 2023, secondo Sam Altman, CEO responsabile di OpenAI, l’azienda svilupperà questo nuovo modello linguistico.
GPT-4o mini, un nuovo modello più sicuro
Si lavora anche sulla sicurezza nella creazione di ciascun modello e questo nuovo modello di intelligenza artificiale con ragionamento multimodale filtra più incitamento all’odio, contenuti per adulti o contenuti relativi a siti di spam, allo stesso livello di GPT-4o.
La mini API GPT-4o è la prima ad applicare la gerarchia di istruzioni OpenAI che aiuta a migliorare la capacità del modello di resistere a fughe di informazioni, iniezioni di messaggi ed estrazioni di messaggi di sistema.
This post is also available in: