Una delle maggiori sfide dell\u2019intelligenza artificiale rimane la sua dipendenza da hardware specializzato, in particolare le costose unit\u00e0 di elaborazione grafica (GPU), necessarie per eseguire modelli complessi. Ma un recente progresso di Microsoft potrebbe cambiare questa realt\u00e0.<\/p>\n
Grazie a una nuova architettura denominata BitNet b1.58 2B4T<\/strong>, \u00e8 ora possibile eseguire modelli di intelligenza artificiale ad alte prestazioni direttamente sulle CPU, il tipo di processore pi\u00f9 comune ed economico nei personal computer e dispositivi.<\/p>\n Analizziamo come questo modello basato su Microsoft Copilot<\/strong> segna un prima e un dopo nell’accessibilit\u00e0 dell’intelligenza artificiale, le tecniche che lo rendono possibile e cosa possiamo aspettarci per il futuro.<\/p>\n Il 13 aprile 2025, Microsoft ha rilasciato BitNet b1.58 2B4T, un modello AI di nuova generazione ottimizzato per l’esecuzione su CPU. Con 2 miliardi di parametri e addestrato con 4 miliardi di token, BitNet utilizza una tecnica di quantizzazione estrema<\/strong> che riduce tutti i suoi pesi a soli tre valori: -1, 0 e 1.<\/p>\n Questa radicale semplificazione consente al modello di operare con eccezionale efficienza<\/strong> sia in termini di memoria che di potenza di calcolo. Sorprendentemente, pu\u00f2 funzionare anche su hardware come il chip M2 di Apple, senza richiedere una GPU.<\/p>\n Nonostante la sua leggerezza, BitNet non sacrifica le prestazioni. In benchmark come GSM8K e PIQA, ha sovraperformato modelli molto pi\u00f9 grandi, sfidando il concetto tradizionale secondo cui \u201cpi\u00f9 grande \u00e8 meglio\u201d.<\/p>\n Inoltre, \u00e8 <\/strong>disponibile pubblicamente su Hugging Face<\/strong>sotto la licenza MIT<\/strong>, facilitandone l’accesso a sviluppatori, ricercatori e appassionati.<\/p>\n Naturalmente non tutto \u00e8 perfetto: BitNet non \u00e8 compatibile con le GPU e dipende dall’ambiente bitnet.cpp personalizzato sviluppato da Microsoft. Tuttavia, rappresenta un passo da gigante verso la democratizzazione dell\u2019intelligenza artificiale, aprendo nuove possibilit\u00e0 per chi non dispone di hardware specializzato.<\/p>\n Far funzionare modelli complessi come BitNet sulle CPU richiede pi\u00f9 che buone intenzioni: si basa su una serie di tecniche avanzate che ne ottimizzano l’efficienza. Qui spieghiamo i tre principali:<\/p>\n La potatura rimuove componenti del modello<\/strong> (come neuroni o connessioni) che non sono essenziali<\/strong> per le sue prestazioni.<\/p>\n Ci\u00f2 ne riduce le dimensioni e accelera il tempo di inferenza, qualcosa di vitale quando si lavora con CPU non progettate per carichi pesanti. Naturalmente, la sua efficacia dipende dalla capacit\u00e0 dell’hardware di gestire bene queste strutture disperse.<\/p>\n La distillazione addestra un modello pi\u00f9 piccolo<\/strong>, chiamato lo \u201cstudente\u201d, ad imitarne uno pi\u00f9 grande<\/strong>, il \u201cmaestro\u201d.<\/p>\n In questo modo si ottiene un modello pi\u00f9 leggero che mantiene buone prestazioni, ideale per compiti come la classificazione o l’analisi del testo. Inoltre, pu\u00f2 essere combinato con altre tecniche, come la quantizzazione, per migliorare ulteriormente l’efficienza.<\/p>\n La quantizzazione riduce la precisione dei valori utilizzati dal modello<\/strong>. Ad esempio, puoi passare dall’utilizzo di 32 bit a solo 8, o anche 1 bit come fa BitNet.<\/p>\n Ci\u00f2 riduce drasticamente le dimensioni del modello e accelera i calcoli, soprattutto sulle CPU che elaborano bene le operazioni a bassa precisione. \u00c8 una delle strategie pi\u00f9 efficaci per portare l\u2019intelligenza artificiale avanzata sui dispositivi comuni.<\/p>\n Oltre all’accessibilit\u00e0, queste tecniche promuovono anche la sostenibilit\u00e0 riducendo il consumo energetico e i costi operativi rispetto alle esigenze delle GPU.<\/p>\n Lo sviluppo di BitNet non \u00e8 un caso isolato, ma fa parte di una tendenza pi\u00f9 ampia nel settore tecnologico. Aziende come Ampere e NVIDIA stanno anche lavorando per ottimizzare i modelli di intelligenza artificiale per le CPU.<\/p>\n Ad esempio, Ampere, insieme a Wallaroo.AI, \u00e8 riuscita a eseguire Whisper<\/strong>, il modello di riconoscimento vocale di OpenAI, su CPU con efficienza energetica fino a 3,6 volte maggiore di quella ottenuta sulle GPU.<\/p>\n Da parte sua, NVIDIA ha incorporato tecniche come la potatura e la distillazione<\/strong> nella sua piattaforma NeMo, con l’obiettivo di creare modelli pi\u00f9 leggeri e accessibili.<\/p>\n Anche la comunit\u00e0 della ricerca non \u00e8 da meno. Nuovi metodi come AQLM ed EfficientQAT<\/strong> sono in fase di studio, consentendo di eseguire la quantizzazione del modello con un massimo di 2 bit di precisione senza compromettere troppo le prestazioni.<\/p>\n Un altro esempio \u00e8 exo, un progetto che cerca di eseguire modelli linguistici di grandi dimensioni (LLM) su cluster di server basati su CPU, che potrebbero rendere significativamente pi\u00f9 economico l\u2019accesso all\u2019intelligenza artificiale di alto livello.<\/p>\n Tutto ci\u00f2 punta verso un futuro in cui i modelli di intelligenza artificiale non saranno limitati ai data center<\/strong> con costosi rack di GPU.<\/p>\n Potrebbero invece essere eseguiti direttamente su personal computer, laptop o persino smartphone, grazie a miglioramenti sia nell\u2019hardware che nelle tecniche di ottimizzazione.<\/p>\n Il rilascio di BitNet b1.58 2B4T segna un punto di svolta nello sviluppo di modelli di intelligenza artificiale.<\/p>\n La sua capacit\u00e0 di funzionare su CPU senza sacrificare le prestazioni \u00e8 il risultato di innovazioni in tecniche come potatura, distillazione e quantizzazione.<\/p>\n Questo progresso non solo democratizza l\u2019accesso all\u2019intelligenza artificiale, ma promuove anche un approccio pi\u00f9 sostenibile ed efficiente, con minori consumi energetici e costi operativi.<\/p>\n E se aggiungiamo gli sforzi di altre aziende e della comunit\u00e0 scientifica, le prospettive diventano ancora pi\u00f9 promettenti. Stiamo entrando in una nuova era in cui l\u2019intelligenza artificiale sar\u00e0 veramente onnipresente, accessibile ed efficiente<\/strong>. BitNet \u00e8 solo l’inizio.<\/p>\n","protected":false},"excerpt":{"rendered":" Una delle maggiori sfide dell\u2019intelligenza artificiale rimane la sua dipendenza da hardware specializzato, in particolare le costose unit\u00e0 di elaborazione grafica (GPU), necessarie per eseguire modelli complessi. Ma un recente progresso di Microsoft potrebbe cambiare questa realt\u00e0. Grazie a una nuova architettura denominata BitNet b1.58 2B4T, \u00e8 ora possibile eseguire modelli di intelligenza artificiale ad […]<\/p>\n","protected":false},"author":9,"featured_media":18303,"comment_status":"open","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"_uag_custom_page_level_css":"","_thinkrank_schema_form_data":"","_thinkrank_selected_schema_type":"","_thinkrank_additional_schemas":"","_thinkrank_canonical_url":"","_thinkrank_og_title":"","_thinkrank_og_description":"","_thinkrank_og_image":"","_thinkrank_twitter_title":"","_thinkrank_twitter_description":"","_thinkrank_twitter_image":"","_thinkrank_imported_from":"","_thinkrank_focus_keywords":[],"_thinkrank_focus_keyword":"","_thinkrank_robots_meta_enabled":0,"_thinkrank_robots_meta":"","_thinkrank_advanced_robots_meta":"","_thinkrank_exclude_from_search":0,"_thinkrank_exclude_from_archives":0,"_thinkrank_primary_category":0,"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[716],"tags":[],"class_list":["post-26102","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-intelligenza-artificiale"],"uagb_featured_image_src":{"full":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2025\/04\/microsoft-apuesta-ejecutar-modelos-ia-cpus.jpg",1408,768,false],"thumbnail":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2025\/04\/microsoft-apuesta-ejecutar-modelos-ia-cpus-150x150.jpg",150,150,true],"medium":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2025\/04\/microsoft-apuesta-ejecutar-modelos-ia-cpus-300x164.jpg",300,164,true],"medium_large":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2025\/04\/microsoft-apuesta-ejecutar-modelos-ia-cpus-768x419.jpg",768,419,true],"large":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2025\/04\/microsoft-apuesta-ejecutar-modelos-ia-cpus-1024x559.jpg",1024,559,true],"1536x1536":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2025\/04\/microsoft-apuesta-ejecutar-modelos-ia-cpus.jpg",1408,768,false],"2048x2048":["https:\/\/comunicagenia.com\/wp-content\/uploads\/2025\/04\/microsoft-apuesta-ejecutar-modelos-ia-cpus.jpg",1408,768,false]},"uagb_author_info":{"display_name":"marketing","author_link":"https:\/\/comunicagenia.com\/it\/blog\/author\/marketing\/"},"uagb_comment_info":0,"uagb_excerpt":"Una delle maggiori sfide dell\u2019intelligenza artificiale rimane la sua dipendenza da hardware specializzato, in particolare le costose unit\u00e0 di elaborazione grafica (GPU), necessarie per eseguire modelli complessi. Ma un recente progresso di Microsoft potrebbe cambiare questa realt\u00e0. Grazie a una nuova architettura denominata BitNet b1.58 2B4T, \u00e8 ora possibile eseguire modelli di intelligenza artificiale ad…","_links":{"self":[{"href":"https:\/\/comunicagenia.com\/it\/wp-json\/wp\/v2\/posts\/26102","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/comunicagenia.com\/it\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/comunicagenia.com\/it\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/comunicagenia.com\/it\/wp-json\/wp\/v2\/users\/9"}],"replies":[{"embeddable":true,"href":"https:\/\/comunicagenia.com\/it\/wp-json\/wp\/v2\/comments?post=26102"}],"version-history":[{"count":0,"href":"https:\/\/comunicagenia.com\/it\/wp-json\/wp\/v2\/posts\/26102\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/comunicagenia.com\/it\/wp-json\/wp\/v2\/media\/18303"}],"wp:attachment":[{"href":"https:\/\/comunicagenia.com\/it\/wp-json\/wp\/v2\/media?parent=26102"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/comunicagenia.com\/it\/wp-json\/wp\/v2\/categories?post=26102"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/comunicagenia.com\/it\/wp-json\/wp\/v2\/tags?post=26102"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}Il modello Microsoft: BitNet b1.58 2B4T<\/h2>\n
Tecniche chiave per l’esecuzione di IA sulle CPU<\/h2>\n
Potatura<\/h3>\n
Distillazione<\/h3>\n
Quantizzazione<\/h3>\n
Un’intelligenza artificiale pi\u00f9 sostenibile e accessibile<\/h2>\n
IA decentralizzata, proprio dietro l’angolo<\/h2>\n