L’intelligenza artificiale (AI) è ovunque, dalla medicina all’automotive, dalla creazione di testi originali ai video che sembrano un sogno (o addirittura un incubo).
Tuttavia, affinché queste applicazioni di intelligenza artificiale funzionino in modo efficiente, richiedono hardware specializzato in grado di gestire l’intensa elaborazione parallela e le richieste di memoria.
Per questo motivo sono stati sviluppati chip IA specializzati, ottimizzati per eseguire algoritmi di apprendimento automatico e reti neurali con velocità ed efficienza senza precedenti.
Vuoi sapere come funzionano, oppure scoprire quali sono i chip IA più moderni, cosa possono fare e quanto costano? Di seguito esamineremo tutto questo e molto altro ancora nel dettaglio.
Cosa sono i chip IA?
I chip di intelligenza artificiale (AI) sono circuiti integrati progettati specificamente per gestire i complessi compiti computazionali richiesti dagli algoritmi di intelligenza artificiale.
Questi chip sono ottimizzati per elaborare grandi volumi di dati ad alta velocità ed eseguire calcoli complessi in modo efficiente, il che è essenziale per applicazioni come il riconoscimento vocale e i modelli del linguaggio naturale (LLM).
Sebbene esistano molti tipi di chip AI, tutti condividono una caratteristica fondamentale: l’elaborazione parallela. Ciò significa che possono eseguire più calcoli contemporaneamente e con il minor consumo energetico possibile.
Come funzionano i chip IA?
Quando l’intelligenza artificiale era una tecnologia emergente, doveva adattarsi all’hardware esistente. Per questo motivo, le prime applicazioni di intelligenza artificiale sfruttavano le schede grafiche e in particolare i loro processori; le GPU.
GPU (unità di elaborazione grafica)
Originariamente, le GPU venivano sviluppate per l’elaborazione grafica nei videogiochi e nelle applicazioni visive. Qualcosa che continuano a fare sui nostri computer.
Ma quando l’intelligenza artificiale ha iniziato a richiedere maggiore potenza di elaborazione, le GPU si sono rivelate ideali per addestrare reti neurali profonde grazie alla loro architettura parallela.
All’inizio, framework come CUDA di Nvidia hanno svolto un ruolo fondamentale nel consentire agli sviluppatori di intelligenza artificiale di sfruttare appieno la potenza delle GPU.
CUDA ha consentito la programmazione parallela sulle GPU Nvidia, accelerando notevolmente l’addestramento dei modelli IA. Ha inoltre consolidato l’attuale egemonia di Nvidia in questo campo.
TPU (unità di elaborazione tensore)
Le TPU sono state introdotte da Google nel 2016 in risposta alla crescente domanda di elaborazione per attività di intelligenza artificiale, in particolare nell’addestramento e nell’inferenza delle reti neurali profonde.
Una TPU è progettata per eseguire l’elaborazione della matrice, che comporta la scomposizione dei dati di input in più attività chiamate vettori.
Ciò consente ai TPU di risolvere compiti matematici di grandi dimensioni molto più velocemente e con un consumo energetico inferiore rispetto ai processori tradizionali. I TPU possono essere da 30 a 80 volte più efficienti per watt rispetto alle attuali CPU e GPU.
Nvidia include una tecnologia simile con i suoi TensorCore, presenti sia nelle schede grafiche RTX che nelle GPU progettate per i data center.
NPU (unità di elaborazione neurale)
A differenza di GPU e TPU, le NPU sono specializzate nell’inferenza e nell’esecuzione di reti neurali con bassa latenza e prestazioni elevate su dispositivi con vincoli di potenza.
Per questo motivo le NPU si trovano nei dispositivi mobili, come smartphone e fotocamere, nonché in alcuni processori avanzati per veicoli autonomi.
Ad esempio, sia i processori mobili di Apple (a partire dall’A11 Bionic dell’iPhone 8) che i processori per computer (Apple Silicon M1/M2) contengono NPU, che lì sono conosciute come Neural Engine.
Lo stesso si può dire del “top di gamma” di Qualcomm a partire dallo Snapdragon 855. Ad esempio, lo Snapdragon 8 Gen 3 ha una NPU Hexagon, che migliora le sue prestazioni nelle attività di intelligenza artificiale.
Come vengono misurate le prestazioni dei chip IA?
Per misurare le prestazioni e confrontare diversi chip IA, sono state utilizzate diverse metriche e tecniche che valutano la capacità dei chip di gestire compiti IA specifici.
Inizialmente venivano utilizzati i FLOPS, che sono operazioni in virgola mobile al secondo. Questa misura ha dato un’idea della potenza di calcolo grezza di una o più CPU, ma non si concentra su compiti specifici dell’IA.
Ecco perché abbiamo iniziato a utilizzare TOPS (operazioni tensoriali al secondo). Come abbiamo già descritto, queste operazioni sono fondamentali nell’addestramento e nell’inferenza dei modelli AI, ed è per questo che rappresentano la metrica prestazionale più utilizzata.
Un altro parametro importante è la latenza, che misura il tempo impiegato da un chip per completare un’attività specifica. Ciò è fondamentale nelle applicazioni in tempo reale, come il riconoscimento vocale.
Esistono benchmark specifici per l’IA, come MLPerf, DAWNBench o SPEC AI (tra gli altri). Si tratta di una serie di attività standard che consentono di misurare le prestazioni hardware e software nelle attività di intelligenza artificiale.
Quali sono i chip IA più potenti?
Di seguito sono riportati alcuni dei chip AI più avanzati oggi disponibili. Alcuni di essi possono essere acquistati (se ne hai abbastanza), ma ad altri è possibile accedere solo nel cloud.
Pod Google TPU v4
Progettati specificamente per attività di deep learning, questi cluster TPU possono includere fino a 4.096 chip TPU v4 per pod. Con una capacità fino a 275 TFLOPS (teraFLOPS) per chip, i pod TPU v4 sono estremamente potenti.
Queste enormi prestazioni sono ideali per l’addestramento di modelli IA su larga scala e la ricerca avanzata.
NVIDIA H100
Questa è la GPU più recente e potente di NVIDIA, progettata per attività di calcolo e intelligenza artificiale ad alte prestazioni. Con un costo fino a 35.000 dollari per unità, dispone di 14592 CUDA Core e 456 Tensor Core.
Questo dà alla Nvidia H100 fino a 700 TFLOPS di prestazioni AI, superando significativamente i suoi predecessori (come l’A100).
L’H100 è ideale per data center, supercalcolo e ricerca avanzata, offrendo prestazioni eccezionali nell’addestramento dei modelli AI e nelle attività di inferenza.
Intel Havana Gaudi2
Habana Gaudi2 è la scommessa di Intel per rubare una fetta della torta a Nvidia. Si tratta di un acceleratore AI progettato per ottimizzare le prestazioni nelle attività di addestramento del modello AI.
Questo chip ha 24 core di elaborazione tensore (TPC). In termini di prestazioni, il Gaudi2 offre prestazioni fino a 32 TFLOPS per chip. Questo è fino a 2,5 volte superiore rispetto al suo predecessore
Il Gaudi2 è molto potente e viene utilizzato principalmente nei data center. Il prezzo di questo chip può variare a seconda del fornitore.
AMD Instinct MI325X
L’MI325X è progettato per essere utilizzato nei data center e nelle applicazioni di supercalcolo, dove sono richieste prestazioni e capacità di elaborazione elevate.
Con poco più di 2 mesi sul mercato, i dati disponibili sull’MI325X lo collocano nello stesso segmento dell’Nvidia H100. Nello specifico, offre 1,3 volte le prestazioni dell’H100.
Questi chip rappresentano l’avanguardia dell’hardware AI specializzato. Ciò che è chiaro è che si tratta di prodotti altamente specializzati e accedervi direttamente non è un compito facile.
This post is also available in: