Con il rilascio di Llama 3.1, Meta ha dichiarato l’intenzione di competere direttamente con modelli proprietari come GPT-4o di OpenAI e Gemini 1.5 di Google.
Llama 3.1 è il primo “modello di frontiera” open source che, nonostante i limiti della sua licenza, promette grande capacità di personalizzazione per aziende e sviluppatori, posizionando la proposta AI di Meta come leader del settore.
Llama 3.1 è disponibile in varie dimensioni e il modello più grande, “405B”, ha 405 miliardi di parametri neurali, superando altri principali modelli open source come Mixtral e Google Gemma 2.
Essendo open source, chiunque può addestrare ed eseguire Llama 3.1 sui propri computer, purché siano estremamente potenti. Esploriamo insieme come questo nuovo modello Meta può trasformare l’attuale panorama dell’IA.
Il trailer di Llama 3.1
I modelli della famiglia Llama 3.1 si distinguono per dimensioni e capacità eccezionali. Il modello di punta, con 405 miliardi di parametri, è progettato per spingere i limiti delle prestazioni e dell’usabilità dell’IA.
Mark Zuckerberg, amministratore delegato di Meta, ha espresso in una lettera la sua convinzione che i modelli “aperti” siano il futuro. Pertanto, l’approccio Meta con Llama 3.1 enfatizza l’apertura, a differenza dei modelli “chiusi” come GPT-4, Gemini 1.5 o Claude 3.5 Sonnet.
Sebbene Meta descriva Llama 3.1 come open source, alcuni esperti discutono questa affermazione. Secondo Bradley Shimmin, analista del settore presso Omdia, i modelli Llama non sono veramente open source come definito dall’Open Source Initiative.
Un termine più preciso sarebbe dire che Llama 3.1 ha “pesi” o parametri aperti. Ciò significa che questi modelli possono essere ottimizzati e addestrati, sebbene Meta non offra completa trasparenza sui dati utilizzati per pre-addestrare i modelli.
La versione include anche varianti più piccole, come 70B e 8B, che si adattano a diversi casi d’uso e risorse di calcolo.
Di cosa ho bisogno per eseguire Llama 3.1?
L’esecuzione del modello più grande, Llama 3.1-405B, richiede un’infrastruttura informatica estremamente potente. Nello specifico, sarebbero necessari almeno due server Nvidia H100, che combinano un totale di 16 GPU, 1 TB di RAM e 870 GB di VRAM.
Per utilizzare Llama 3.1-405B in applicazioni pratiche, è più logico utilizzare l’infrastruttura cloud fornita da servizi come AWS, Microsoft Azure o Nvidia DGX Cloud. Ciò facilita la sua implementazione senza dover disporre dell’hardware necessario.
Le versioni più piccole e meno potenti di Llama 3.1 hanno esigenze hardware più modeste. Ad esempio, Llama 3.1 8B avrebbe bisogno “solo” di circa 16 GB di VRAM, rendendo possibile l’esecuzione su un sistema con una Nvidia 4090.
Il costo annuale per far funzionare il modello Llama 3.1-405B su un’infrastruttura adeguata può superare i 300.000 euro, rendendolo accessibile principalmente alle grandi aziende con budget significativi per la ricerca e lo sviluppo dell’IA.
Per mitigare i costi elevati legati all’esecuzione del modello 405B, si prevede che le aziende si rivolgano ai servizi cloud.
Meta ha stabilito partnership con un’ampia gamma di aziende, tra cui AWS, Google Cloud, Microsoft Azure e IBM Watsonx, per fornire modelli Llama 3.1 tramite API. Questo approccio consente alle aziende di accedere alle risorse IT necessarie in base alle proprie esigenze, riducendo gli investimenti iniziali.
Principali vantaggi di Llama 3.1 per le aziende
Uno dei vantaggi più significativi di Llama 3.1 per le aziende è la possibilità di personalizzare i modelli per casi d’uso specifici senza incorrere in costi elevati.
Secondo Paul Nashawaty, principale analista di The Futurum Group, fornire un modello linguistico con pesi aperti consente alle aziende di creare soluzioni AI personalizzate senza dover pagare licenze costose.
Prestazioni paragonabili ai modelli più avanzati
La famiglia Llama 3.1, in particolare il modello 405B, ha dimostrato prestazioni competitive nei test benchmark rispetto ai principali modelli proprietari come GPT-4o di OpenAI e Gemini 1.5 di Google.
Il post sul blog di Meta evidenzia che il modello 405B ha sovraperformato o eguagliato questi modelli in test come MMLU, MATH, GSM8K e ARC Challenge, che valutano l’intelligenza generale, la matematica e le capacità di ragionamento.
Sicurezza e privacy dei dati
Arnal Dayaratna, vicepresidente della ricerca presso IDC, osserva che le aziende possono ottimizzare i modelli Llama 3.1 utilizzando i propri dati senza dover condividere i dati con un fornitore di terze parti.
Questa funzionalità aiuta a evitare un problema sempre più comune con i LLM proprietari; diventare dipendenti e intrappolati da un unico fornitore di intelligenza artificiale.
Come reagirà la concorrenza a Llama 3.1?
Il rilascio di Llama 3.1 rappresenta una sfida significativa per i fornitori LLM proprietari. Gli analisti prevedono che l’apertura e le elevate prestazioni dei modelli Meta potrebbero sconvolgere il mercato.
Tobias Zwingmann, socio amministratore di Rapyd.AI, suggerisce che la disponibilità di modelli aperti come Llama 3.1 potrebbe portare le aziende a ridurre la loro dipendenza da LLM proprietari chiusi.
Questo cambiamento potrebbe disturbare le aziende e i fornitori che costruiscono e vendono modelli proprietari.
La concorrenza sta già rispondendo alla mossa di Meta. Entro 24 ore dal lancio di Llama 3.1, OpenAI ha annunciato un livello gratuito per personalizzare il suo mini modello GPT-4o.
Questa reazione indica una tendenza più ampia verso la riduzione dei costi e l’aumento dell’accessibilità per rimanere competitivi.
Llama 3.1 è disponibile nell’Unione Europea?
Llama 3.1 è disponibile a livello globale, senza restrizioni geografiche, ma può essere utilizzato solo tramite un provider di cloud computing o eseguendolo localmente. Tuttavia, non è ancora disponibile dall’interfaccia multimodale Meta.AI nell’Unione Europea e in altri paesi.
Meta percepisce il contesto normativo nell’UE come imprevedibile, il che aggiunge uno strato di incertezza quando si implementano nuove tecnologie.
Per questo motivo, la società madre di Facebook e Instagram ha deciso di non lanciare il suo modello multimodale Llama 3.1 nel blocco europeo a causa delle rigide e talvolta imprevedibili normative GDPR (Regolamento generale sulla protezione dei dati).
Il futuro dei LLM aperti
Flame Meta 3.1 rappresenta una pietra miliare significativa nello sviluppo di modelli linguistici di grandi dimensioni. La sua apertura, performance e flessibilità offrono vantaggi sostanziali alle aziende, sfidando al tempo stesso il predominio dei fornitori di modelli proprietari.
Con l’evoluzione del panorama dell’intelligenza artificiale, si prevede che il rilascio di Llama 3.1 favorirà una maggiore concorrenza, innovazione e adozione di modelli di intelligenza artificiale aperti.
Per le aziende, la capacità di sfruttare soluzioni IA potenti e personalizzabili senza incorrere in costi elevati segna una nuova era di possibilità nell’intelligenza artificiale.
This post is also available in: