Cosa sono gli Small Language Model e perché preferirli
Avevamo già esplorato qualche tempo fa i confini e le sfide tra Intelligenza Artificiale e Umana in questa intervista a Fabio Moioli, oggi consulente nella practice Technology di Spencer Stuart e precedentemente Head Consulting & Services di Microsoft Europa.
Ora, ci addentriamo nell’argomento della Sostenibilità e dei Rischi associati all’IA Generativa, esaminando perché i CIO – Chief Information Officer stanno spostando la loro attenzione dai Large Language Model verso i più “controllabili” e sostenibili Small Language Model.
Small Language Model vs Large Language Model
Mentre GPT-4 dimostra le sue capacità superando il test di Turing, colossi tecnologici come Microsoft integrano l’assistente IA Copilot nei loro prodotti aziendali e Google lancia l’app Gemini sui cellulari italiani, i CIO riservano sempre maggiore cautela alla tecnologia dell’IA generativa, spiegando che essa offre numerosi vantaggi, ma non può essere adottata senza considerazioni adeguate. L’entusiasmo è elevato, ma altrettanto alto è il rischio di sopravvalutare le sue capacità senza compromettere l’impatto ambientale e la sicurezza dei dati. La Gen AI, abbreviazione di Generative Artificial Intelligence, si concentra sulla creazione di contenuti originali tramite algoritmi estremamente avanzati. Questi sistemi possono generare testi, immagini, musica e altri dati con una qualità sorprendente, spesso indistinguibile da quella prodotta dagli esseri umani. Nonostante l’interesse suscitato dalle sue promesse innovative, i rischi elevati legati al consumo energetico e alla sicurezza dei dati fanno riflettere i CIO, e il futuro dell’adozione aziendale potrebbe non risiedere nei grandi modelli di deep learning, noti come Large Language Model (LLM), che alimentano prodotti come ChatGPT. All’orizzonte, infatti, si profilano i modelli linguistici più piccoli e meno dispendiosi in termini di risorse, i cosiddetti Small Language Model (SLM), che offrono una soluzione più sostenibile e gestibile per le imprese.
Cautela delle Imprese
Un recente rapporto di Gartner ha rivelato che, nonostante il clamore, la spesa globale delle imprese in tecnologie di IA generativa è rimasta modesta. Su un totale di 5.000 miliardi di dollari previsti per gli investimenti IT nel 2024, con un aumento dell’8% rispetto al 2023, la Gen AI rappresenta solo una piccola parte. Sempre secondo Gartner, l’investimento in tecnologie di IA generativa è circa il 5%, mentre gli investimenti principali continuano a essere guidati dai servizi IT tradizionali, che rappresentano oltre 1.500 miliardi di dollari, con un incremento del 9,7% anno su anno.
Parallelamente alla cautela delle imprese nell’adozione dell’IA generativa, i grandi service provider stanno aumentando significativamente la spesa in tecnologie per supportare le infrastrutture necessarie. Secondo un rapporto di Synergy Research Group, i server per le applicazioni di intelligenza artificiale hanno rappresentato il 14% degli investimenti totali in server nel 2024 e si prevede che questa percentuale salga al 20% entro il 2025.
In linea generale, si osserva un ciclo “story, plan, execution” per l’IA generativa: nel 2023 se ne è parlato, nel 2024 è in atto l’implementazione, e nel 2025 si passerà alla fase esecutiva.
Differenza tra linguaggi Gen AI e impatto ambientale
L’energia richiesta dai Large Language Model (LLM) è significativa, sollevando preoccupazioni ambientali. Al contrario, gli Small Language Model (SLM), progettati per essere comunque efficienti, sono alimentati da dati specifici e richiedono meno energia, offrendo alle aziende sia un maggiore controllo che un impatto ambientale ridotto.
Secondo McKinsey, l’adozione di tecnologie IA più efficienti potrebbe ridurre le emissioni di carbonio fino al 30% entro il 2030. Questo evidenzia l’importanza di scegliere modelli più piccoli e meno energivori. Inoltre, uno studio Nielsen ha rilevato che il 70% dei consumatori preferisce le aziende che dimostrano un impegno verso pratiche responsabili, indicando una chiara direzione per le imprese che vogliono rimanere competitive. L’equilibrio tra innovazione e responsabilità è quindi essenziale. Nel mondo digitale, la prudenza e la valutazione critica delle tecnologie emergenti sono indispensabili per evitare errori costosi e garantire che l’adozione dell’IA generativa porti reali benefici, nel rispetto dell’ambiente e senza compromettere la sicurezza dei dati.
(L’In)sostenibilità dell’Intelligenza Artificiale Generativa
Dati recenti dimostrano quanto l’IA sia ad alto dispendio energetico, aggiungendosi ai già elevati costi della tecnologia. L’ICT nel mondo pesa per il 9% dei costi energetici totali, pari a circa 300 miliardi di dollari nel 2023. Questa quota è aumentata del 50-60% negli ultimi anni ed è destinata a crescere ancora. L’addestramento dei modelli di IA generativa richiede risorse computazionali immense, sollevando preoccupazioni non solo sulla sostenibilità, ma anche sulla dipendenza tecnologica.
Questo scenario ricorda la rivoluzione delle sementi OGM nell’agricoltura, dove le aziende agricole sono diventate dipendenti da pochi fornitori di sementi high-tech. Analogamente, poche aziende potrebbero dominare il mercato della Gen AI, determinando comportamenti e costi e limitando la capacità delle altre imprese di distinguere tra i prodotti offerti.
Il Monopolio delle Big Tech
Si profila una potenziale concorrenza tra le imprese e i colossi tecnologici che vendono i loro modelli di IA. Aziende come Microsoft e Google hanno un enorme vantaggio grazie agli ecosistemi di prodotti da cui possono estrarre dati. Questo oligopolio, che controlla il 70-80% del mercato dei dati, rende difficile per nuovi entranti competere efficacemente. Sebbene molte nuove startup siano innovative, spesso non dispongono delle risorse necessarie per competere su larga scala. Inoltre, gli esperti del settore osservano che le strategie delle Big Tech mirano a incorporare le startup per rafforzare il dominio sui dati. Questo non significa una bocciatura della Gen AI, ma un invito a studiarla e governarla con massima attenzione. Il dominio delle Big Tech potrebbe limitare l’innovazione e la diversificazione, rendendo le aziende dipendenti da pochi fornitori.
Small Language Model: la soluzione sostenibile
Gli Small Language Model (SLM) offrono un’alternativa sostenibile ai Large Language Model (LLM). Essendo addestrati su set di dati più piccoli e specifici, risultando più efficienti e meno costosi. Gli esperti del settore IT affermano che gli SLM possono fare traduzioni, analisi di trend di mercato, automatizzare il customer service, gestire i ticket IT, creare assistenti virtuali aziendali e altro ancora, senza eccessivo dispendio energetico. La riduzione del consumo e la maggiore specializzazione rendono gli SLM una scelta più adatta per le aziende che cercano di bilanciare innovazione e sostenibilità, riducendo sia i consumi energetici che i rischi di bias e violazioni della privacy, contribuendo a un futuro tecnologico più sostenibile e responsabile.
La figura del CIO alla guida della Gen AI: governance e competenze specifiche
I CIO stanno affrontando sfide significative nella gestione dell’Intelligenza Artificiale Generativa. Se da un lato i Large Language Models (LLM) come GPT di OpenAI richiedono risorse immense e offrono soluzioni generiche, dall’altro, i più piccoli e specifici Small Language Models (SLM) presentano vantaggi significativi in termini di costi e precisione, ma richiedono una gestione più attenta. Mentre i LLM eseguono la maggior parte del lavoro sui dati in modo statistico, gli SLM, pur costando molto meno (bastano, in genere, qualche decina di migliaia di euro), richiedono dati di altissima qualità e un corposo lavoro dei data scientist per evitare errori. Le aziende devono quindi investire nella qualità dei dati e nella competenza del personale IT per sfruttare appieno il potenziale degli SLM, mentre il CIO deve costruire un background di conoscenza tecnologica e dotarsi di un team di persone capaci, incluse giovani menti esperte in tecnologie cloud-native, per agire e incidere efficacemente sui prodotti e servizi IT.