In un mondo sempre più interconnesso, la possibilità di accedere a strumenti avanzati di intelligenza artificiale (AI) senza fare affidamento sul cloud è diventata una priorità.
Google AI Edge Gallery (GAEG) nasce come risposta a questa esigenza: un’applicazione progettata per consentire agli utenti di eseguire modelli AI direttamente sui propri dispositivi mobili. **
Presentato con discrezione sabato scorso, questo strumento intelligente Gemini apre le porte a un ambiente in cui la privacy, la velocità e l’accessibilità non dipendono esclusivamente da una connessione Internet.
Esploriamo in dettaglio le sue caratteristiche, i limiti, il pubblico di destinazione e come si confronta con altre soluzioni sul mercato.
Ha senso eseguire modelli di intelligenza artificiale sui dispositivi mobili?
Il progetto è stato annunciato in modo discreto, senza grandi annunci e senza essere disponibile nel Google Play Store, poiché per ora è distribuito come file APK dal GitHub di Google AI Edge.
Il suo arrivo avviene in un contesto in cui sempre più utenti richiedono di poter utilizzare funzioni di intelligenza artificiale generativa (come creare immagini o scrivere testi) sui propri smartphone senza ricorrere a server remoti.
Le ragioni vanno oltre la semplice curiosità tecnologica: ci sono regioni con connettività ridotta, viaggiatori che non sempre hanno dati disponibili o professionisti che gestiscono informazioni sensibili e preferiscono conservare i propri dati localmente.
###Google Visione
Con GAEG, Google mira a decentralizzare parte della potenza dei suoi modelli di intelligenza artificiale. L’azienda ha lavorato all’ottimizzazione degli algoritmi in modo che si adattino all’architettura dei processori mobili (GPU e NPU) e possano funzionare fluentemente sui dispositivi Android.
L’obiettivo finale è offrire un’esperienza in cui le attività di intelligenza artificiale, come rispondere a domande complesse o generare frammenti di codice, avvengono direttamente sul telefono, senza la necessità di un backend cloud.
Cosa può fare Google AI Edge Gallery?
GAEG incorpora una serie di funzionalità che oggi associamo a modelli di intelligenza artificiale all’avanguardia.
Questi includono la generazione di immagini da descrizioni testuali, la risposta a domande di testo o immagini caricate dall’utente e la possibilità di scrivere o modificare codice in modo conversazionale.
Generazione e analisi di immagini
Una delle grandi scommesse di GAEG è la creazione di illustrazioni, diagrammi o composizioni artistiche basate su un breve testo.
Questa funzionalità è supportata da modelli di intelligenza artificiale sviluppati da Google (come Gemma 3n) e altri disponibili in repository esterni (ad esempio, Hugging Face), che l’utente può scegliere in base alle dimensioni e alla complessità del modello.
Quando viene eseguito localmente, il tempo di risposta può variare a seconda della potenza dell’hardware, ma il vantaggio principale è che nessuna immagine generata o dato sensibile lascia il dispositivo.
Attività di testo e codice
La funzione di elaborazione testi non si limita solo a rispondere alle domande: GAEG può riassumere documenti, riscrivere paragrafi o generare frammenti di codice in diverse lingue.
Per gli sviluppatori, questo significa avere a portata di mano una procedura guidata che, in tasca, può aiutare dal debug degli errori alla generazione di esempi di utilizzo. Tutto questo senza condividere il contenuto con server esterni, il che aumenta la privacy e accelera l’esecuzione in determinati scenari.
Conversazioni su più turni
Al di là delle risposte specifiche, GAEG supporta dialoghi multi-turno. Ciò consente conversazioni più naturali con il modello AI, sia per risolvere domande su un progetto, esplorare argomenti di apprendimento o persino praticare le lingue.
L’app offre parametri in tempo reale (come il tempo di risposta al primo token o la velocità di decodifica) in modo che l’utente possa comprendere meglio le prestazioni di ciascun modello.
##Come funziona Google AI Edge Gallery all’interno?
L’elemento chiave che consente l’esecuzione dell’intelligenza artificiale sui telefoni cellulari è LiteRT (Lite Runtime), un motore ottimizzato in grado di gestire l’inferenza del modello sull’hardware locale.
LiteRT si occupa di convertire le operazioni del modello in un formato adatto agli acceleratori disponibili (GPU, NPU o anche CPU), minimizzando la latenza e massimizzando l’efficienza energetica.
Grazie a questo adattamento, GAEG può ridurre significativamente la dipendenza dal cloud.
Privacy e sicurezza
Uno degli argomenti più forti a favore di GAEG è che tutti i dati elaborati rimangono sul dispositivo. Ciò impedisce che informazioni personali o sensibili circolino su Internet, riducendo il rischio di fughe di informazioni.
Inoltre, poiché si tratta di un software open source con licenza Apache 2.0, la comunità può verificare il codice e garantire che non vi siano elementi nascosti che compromettano la privacy.
Requisiti tecnici
Per installare GAEG l’utente dovrà scaricare l’APK dal repository ufficiale su GitHub.
È necessario disporre di un dispositivo Android le cui specifiche soddisfino almeno un certo livello di spazio di archiviazione (poiché i modelli vanno da 560 MB a 4,4 GB) e una versione di Android compatibile con le librerie LiteRT.
A causa del suo stato sperimentale (fase alfa), non tutti i telefoni cellulari sul mercato garantiscono prestazioni ottimali e alcuni potrebbero subire ritardi o interruzioni in compiti complessi.
Vale la pena installare Google AI Edge Gallery?
Google AI Edge Gallery è attualmente in una fase iniziale in cui l’installazione manuale da GitHub e l’interfaccia ancora non rifinita ne limitano l’adozione agli utenti tecnici con dispositivi di fascia alta.
Compared to solutions such as Ollama, GPT4All, LM Studio or Phi3 mini, GAEG stands out for its native integration in Android and the LiteRT engine, which automatically adapts the models to mobile hardware.
Questo vantaggio offre il potenziale unico di eseguire l’intelligenza artificiale sul telefono più velocemente e in modo più privato rispetto agli ambienti desktop concorrenti.
Looking ahead, the addition to the Google Play Store and the launch of the iOS version will simplify installation and expand the target audience.
Man mano che gli sviluppatori contribuiscono con più modelli adattati a LiteRT e Google esegue il debug di questa versione alpha, il catalogo di possibilità aumenterà.
If the project overcomes current performance and usability barriers, GAEG could become a decisive push for hundreds of thousands of users to work with advanced AI without relying on the cloud, fostering innovation and protecting privacy even in environments without a reliable connection.
Coughing up millions of parameters is impractical, since inference times skyrocket and end up consuming a considerable part of the RAM memory.
This post is also available in: