Mozilla ha annunciato il lancio di una nuova iniziativa open source chiamata Llamafile, che mira a semplificare l’esecuzione di LLM (Large Language Models) su hardware esistente, senza la necessità di un CPU specifiche ad alte prestazioni pensate appositamente per applicazioni di intelligenza artificiale. Ricordiamo che gli LLM sono alla base dei chatbot più comuni, come ChatGPT e Bard, e lo stesso recentissimo Gemini AI di Google fa parte di questa famiglia.
Stando alla pubblicazione di Mozilla, Llamafile condensa la complessità di un chatbot AI in un unico file, che può essere eseguito su sei diversi sistemi operativi – Windows, macOS, Linux, OpenBSD, FreeBSD e NetBSD e a quanto pare non richiede praticamente nessuna installazione o particolare configurazione.
Gli LLM condensati in un unico file possono facilmente essere eseguiti su un computer locale, senza accesso al cloud. Possedere il file significa anche che sarà possibile trasferirlo su un dispositivo di archiviazione per l’utilizzo altrove. Mozilla si riferisce a Llamafile come un distributore di AI locale, spiegando che rende persino possibile spegnere la connessione Wi-Fi. Sebbene possa sembrare un concetto innovativo, Mozilla non è l’unica a pensare a come sfruttare LLM locali. Google ha notevolmente cercato di spingersi in prima linea nell’evoluzione dell’IA con i suoi propri sviluppi. Ad esempio, l’app AiCore è stata scoperta all’interno del Pixel 8 Pro dopo il suo lancio, ma poco si sapeva della sua funzionalità all’epoca.
Ulteriori dettagli sono stati pubblicati tramite la sua pagina del Play Store, notando che AiCore aiuterà a far funzionare direttamente sul dispositivo funzionalità guidate dall’intelligenza artificiale utilizzando i modelli di base più recenti. Google ha anche lavorato duramente per rivaleggiare con i sviluppi di OpenAI, la società dietro ChatGPT. Come lo ricordavamo all’inizio Gemini AI è ora il suo principale concorrente.
La società ha introdotto Gemini in diverse scale – Ultra, Pro e Nano – ognuna progettata per operare a un livello diverso. Lo troveremo a partire da dispositivi piccoli come gli smartphone, fino ad arrivare ai grandi data center. Al momento, non si può dire quanto potenziale abbia l’IA, ma ci sono molte aziende che cercano di scoprirlo.
C’è stato tuttavia un piccolo problema con la pubblicizzazione di Gemini AI, infatti, pare che Google abbia modificato un po’ le carte in tavola riguardo le capacità dell’LLM nel video di presentazione. Incalzata da una giornalista di Bloomberg, la società ha ammesso che la demo è stata ritoccata e non è avvenuta in tempo reale.
Per quanto riguarda Llamafile, trattandosi di un’iniziativa open source ci potrebbe volere del tempo prima di vedere qualcosa di concreto, ma se le cose procederanno nel verso giusto il risultato finale potrebbe essere vantaggioso per gli utenti finali.
Fonte: https://www.hdblog.it/tecnologia/articoli/n576809/mozilla-llamafile-open-source-llm-cloud/
Prof. Adriani
DAVIDE POMPEI
CHRISTIAN MOSCI