Dalla personalizzazione delle esperienze sui dispositivi mobili alla creazione di modelli linguistici avanzati, l’intelligenza artificiale (AI) sta trasformando ogni aspetto della tecnologia moderna.
Questi modelli alimentano i chatbot più sofisticati, portando l’interazione con la tecnologia a un nuovo livello. Tuttavia, affinché l’intelligenza artificiale sia più vicina a noi, deve funzionare su tutti i nostri dispositivi con un consumo energetico ragionevole.
Un pilastro fondamentale di questo progresso è lo sviluppo di Neural Processing Unit (NPU), chip specializzati che ottimizzano i carichi di lavoro dell’intelligenza artificiale.
Queste NPU stanno ridefinendo l’architettura dei processori sia nei PC che nei dispositivi mobili, migliorando l’efficienza e le prestazioni. Vediamo come saranno i dispositivi di domani, con NPU integrate.
Cos’è una NPU e come funziona?
Una NPU (Neural Processing Unit) è un processore specializzato progettato per eseguire in modo efficiente compiti di intelligenza artificiale.
A differenza di CPU e GPU, che tradizionalmente gestiscono più tipi di operazioni computazionali, le NPU si concentrano esclusivamente sull’elaborazione dei carichi di lavoro dell’intelligenza artificiale, in particolare quelli relativi alle reti neurali.
Le NPU eccellono nella moltiplicazione delle matrici, un’operazione fondamentale per la maggior parte delle applicazioni di intelligenza artificiale, come l’addestramento di modelli di apprendimento automatico o l’inferenza nelle reti neurali.
Questa attenzione alla parallelizzazione e all’ottimizzazione del consumo energetico consente alle NPU di eseguire grandi quantità di calcoli con un consumo energetico significativamente inferiore rispetto a CPU o GPU.
Una GPU può eseguire operazioni simili, ma con un consumo energetico maggiore. Ciò li rende meno adatti ai dispositivi in cui l’efficienza energetica è fondamentale, come laptop e smartphone.
L’evoluzione delle NPU
Il concetto di NPU non è del tutto nuovo. In effetti, la sua origine può essere fatta risalire ai primi tentativi di sviluppare il calcolo neuromorfico, che cercava di emulare l’architettura del cervello umano e del sistema nervoso per migliorare l’efficienza di elaborazione.
Sebbene molti di questi primi tentativi siano falliti, alcuni hanno portato a tecnologie più praticabili, come i DSP (processori di segnale digitale), che nel tempo sono stati adattati per le applicazioni di intelligenza artificiale.
Aziende come Qualcomm e Xilinx sono state pioniere in questa transizione. Qualcomm, ad esempio, ha affinato il suo Hexagon DSP, trasformandolo nel tempo in quella che oggi è conosciuta come Hexagon NPU, in grado di offrire prestazioni fino a 45 TOPS (trilioni di operazioni al secondo) in AI.
Questa potenza di calcolo consente ai dispositivi dotati di NPU di eseguire compiti AI complessi, come il riconoscimento vocale e di immagini, localmente e senza dipendere dal cloud computing.
Si tratta di un passo avanti cruciale nella corsa verso una maggiore indipendenza sui dispositivi mobili e sui PC.
Vantaggi delle NPU rispetto a CPU e GPU
Uno dei principali problemi che il settore dell’intelligenza artificiale deve affrontare oggi è la dipendenza dall’elaborazione cloud.
Sebbene il cloud computing offra una potenza di elaborazione quasi illimitata, solleva anche problemi di latenza, consumo di larghezza di banda e potenziali rischi per la sicurezza.
Le NPU consentono di eseguire molti di questi calcoli IA direttamente sul dispositivo, il che non solo riduce la latenza ma migliora anche la sicurezza impedendo che i dati lascino il dispositivo.
Inoltre, le NPU sono molto più efficienti dal punto di vista energetico. Sebbene le GPU siano popolari per l’intelligenza artificiale nel cloud, grazie alle loro capacità di parallelizzazione, richiedono molta energia.
Le NPU, d’altro canto, raggiungono prestazioni simili per alcune attività di intelligenza artificiale, ma con un consumo energetico significativamente inferiore. Questo è fondamentale per i dispositivi portatili come laptop e smartphone, dove la durata della batteria è una priorità.
NPU nei nuovi processori: Intel, Qualcomm e AMD in testa
Poiché la domanda di intelligenza artificiale continua a crescere, i principali produttori di processori stanno integrando le NPU nelle loro nuove architetture. Intel, Qualcomm e AMD sono tre dei principali attori in questa corsa.
Intel Meteor Lake e Lunar Lake
Intel è stata uno dei pionieri nell’integrazione delle NPU nei suoi processori. Con il lancio dell’architettura Meteor Lake, Intel ha introdotto una “architettura ibrida per prestazioni 3D” che include non solo CPU e GPU, ma anche una NPU dedicata.
La funzione di questa NPU è quella di gestire le attività di intelligenza artificiale senza gravare sulla CPU o sulla GPU, migliorando le prestazioni e l’efficienza complessive del sistema.
Meteor Lake offre 11 prestazioni TOP in termini di intelligenza artificiale, rendendolo una soluzione interessante per i PC che desiderano sfruttare l’intelligenza artificiale senza ricorrere al cloud.
Inoltre, Intel sta già lavorando alla prossima generazione di processori, noti come Lunar Lake, che promettono 100 TOP di prestazioni IA, consolidando ulteriormente la sua posizione nella corsa per dominare il mercato dell’IA nei PC.
Qualcomm: Snapdragon
Qualcomm, che lavora da anni sull’integrazione dell’intelligenza artificiale nei suoi SoC (systems on chip) per dispositivi mobili, ha fatto un ulteriore passo avanti con il suo Snapdragon X Elite, un chip basato su architettura ARM che dispone di una NPU in grado di offrire 45 TOPS.
La bocca di leone
AMD: Ryzen con intelligenza artificiale
Anche AMD si è unita a questa corsa con i suoi processori Ryzen. Con l’aggiunta della sua NPU XDNA nella serie Ryzen 8040, AMD offre 16 TOP di prestazioni AI.
Tuttavia, l’azienda ha già annunciato che i suoi futuri processori, come Strix Point, saranno dotati di NPU in grado di raggiungere i 40 TOPS, rendendoli concorrenti diretti di Qualcomm e Intel.
PC Copilot+: il futuro dell’intelligenza artificiale su Windows
Una delle mosse più entusiasmanti in questa evoluzione è lo sviluppo dei PC Copilot+ da parte di Microsoft.
Questi dispositivi, dotati di NPU ad alte prestazioni, fanno parte di una nuova classe di hardware progettata specificamente per eseguire localmente compiti intensivi di intelligenza artificiale.
Windows 11 è già ottimizzato per sfruttare le NPU, consentendo agli utenti di accedere a funzionalità IA avanzate senza fare affidamento sul cloud.
Le funzionalità evidenziate dei PC Copilot+ includono:
- Effetti Windows Studio: una serie di effetti accelerati dall’intelligenza artificiale, come sfocatura dello sfondo, messa a fuoco vocale e contatto visivo, che migliorano l’esperienza di videoconferenza.
- Super Risoluzione: Tecnologia che utilizza l’intelligenza artificiale per migliorare la qualità visiva dei videogiochi, rendendoli più veloci e migliorando la grafica.
- Co-creazione con Paint: una nuova funzionalità che consente agli utenti di trasformare le immagini in opere d’arte generate dall’intelligenza artificiale direttamente nel programma Microsoft Paint.
Microsoft ha anche incluso un pulsante Copilot su alcuni dispositivi, che facilita l’accesso rapido alle funzioni AI, consentendo agli utenti di eseguire attività come traduzioni in tempo reale o generare immagini senza dover ricorrere a servizi esterni.
L’espansione delle NPU ad altri sistemi operativi
Sebbene Microsoft sia stata pioniera nell’integrazione delle NPU nel proprio ecosistema Windows, è probabile che questa tendenza si diffonda ad altri sistemi operativi nel prossimo futuro.
macOS, ad esempio, dispone già di un Neural Engine nei suoi chip M1, M2 e M3, sebbene le sue prestazioni AI siano attualmente inferiori a quelle delle NPU Qualcomm e AMD.
Tuttavia, poiché la domanda di elaborazione IA locale continua a crescere, quasi sicuramente vedremo più dispositivi Apple e altre aziende adottare NPU più potenti.
In breve, le NPU rappresentano il prossimo grande passo avanti nell’evoluzione dei processori e la loro integrazione in PC, dispositivi mobili e altri sistemi inaugurerà una nuova era per l’elaborazione IA locale.
Con l’arrivo di processori come Lunar Lake di Intel e le mosse della concorrenza, stiamo per assistere a una rivoluzione nel modo in cui utilizziamo l’intelligenza artificiale nella nostra vita quotidiana.
This post is also available in: