I Large language model (LLM) si erigono sul Deep learning e quindi sulle reti neurali e sui dati. Fanno parte di questa numerosa famiglia ChatGPT e Dall-E di OpenAI, LaMDA di Google, Galactica di Meta ma anche Alexa Teacher Model di Amazon. Gli LLM sono destinati a diversi ambiti applicativi e troveranno uno spazio sempre più orizzontale, perché portano con loro capacità ancora inespresse e quindi non sfruttate. Ecco le tendenze di adozione attuali.
Generazione di codice
L’uso di L per completare o generare codice è tra i più rappresentativi delle capacità dei Large language model e, capostipite di questo filone applicativo, è probabilmente Codex OpenAI del quale abbiamo parlato in modo approfondito.
Sono meritevoli di attenzione anche Polycoder e CodeT5.
Polycoder
Alterativa Open source a Codex OpenAI, Polycoder esce dai laboratori della Carnegie Mellon University (Pittsburgh, Pennsylvania) ed è basato su GPT-2 e addestrato su un database di 249 GB di codice scritto in 12 linguaggi di programmazione, tra i quali spicca il C che, per gli sviluppatori, viene scritto con una precisione che supera tutti i modelli attualmente in uso, Codex incluso.
CodeT5
Creato da Salesforce e addestrato sfruttando codice preso da GitHub, include Ruby, Go, Python, Php, JavaScript, C e C#. L’addestramento viene poi effettuato mediante il framework T5 (Text to Text Transfer Transformer) di Google.
CodeT5 è Open source e si distingue per:
- generazione da testo a codice: genera codice in base al linguaggio naturale
- completamento automatico del codice: completa l’intera funzione usando il nome di quella di destinazione
- riepilogo del codice: genera il riepilogo di una funzione
Tabnine
Non è un generatore di codice vero e proprio ma è molto interessante. Permette il completamento automatico di righe di codice per le più diffuse Ide oltre 20 linguaggi di programmazione. Tabnine ha una versione gratuita fortemente limitata, una versione Pro il cui costo parte da 12 dollari al mese per utente (10,90 euro circa) e una Enterprise i cui prezzi vengono comunicati in base alle esigenze specifiche.
Generazione di comandi shell
Usare le shell impartendo comandi in lingua inglese. Una comodità che non è propria soltanto di chi usa sistemi Linux, non va dimenticato che PowerShell di Microsoft è uno strumento indispensabile per i sistemisti, dotato di un linguaggio di scripting che assolve qualsiasi compito (ed è peraltro disponibile anche per ambienti Linux e macOS).
Shell Genie
È uno strumento Open source che può essere usato per interpretare il linguaggio e restituire il comando
più appropriato. Usa GPT-3 e il backend proprietario Free Genie ed è particolarmente indicato per le query di sistema. È opportuno prendere le misure con questi tool eseguendo comandi che non possono compromettere la stabilità del sistema operativo, perché mostrano ancora dei limiti di interpretazione.
Warp
Se Shell Genie guarda al mondo Linux, Warp è pensato per i sistemi macOS. Per il momento lo sviluppo è nella fase beta e sono previste versioni anche per Linux e Microsoft, le quali saranno prelevabili gratuitamente al pari di Warp per macOS.
L’uso della riga di comando non è sempre evidente ed è molto più nelle corde di chi non è più di primissimo pelo, rispetto alle generazioni nate e cresciute usando sistemi operativi con interfacce grafiche.
Generazione di query SQL e ottimizzazione database
Sono due ambiti di applicazione diversi tra loro ma accomunati dagli elementi critici. SQL non è difficile da apprendere, almeno nelle sue funzioni più immediate e utili. Avere a disposizione uno strumento capace di interpretare il linguaggio naturale e trasformarlo in interrogazioni ai database e in operazioni di amministrazione può essere utile, pure esigendo delle precauzioni.
Hugging Face T5
Hugging Face T5 si presta anche all’ottimizzazione dei database ed è addestrato su WikiSQL ma presenta criticità di cui tenere conto che limitano l’uso di simili strumenti, perché richiedono una profonda conoscenza dei database in genere e di SQL in particolare. Occorre tenere conto di due peculiarità:
- il linguaggio SQL: interagire con i database è sempre delicato, anche considerando che una query è tipicamente un’operazione di lettura che non modifica i dati interrogati. Occorre però essere certi che le informazioni restituite siano confacenti a quelle richieste e i tecnicismi di SQL prevedono un discreto livello di conoscenza a meno che, come detto, non occorra interagire con un set contenuto di record. Allo stato attuale, i LLM di questo tipo non sembrano essere profondi conoscitori delle sottili interpretazioni dei comandi SQL soprattutto nelle query complesse
- ambiguità: le doti di comprensione semantica dei LLM sono perfettibili, riuscire a interpretare nella giusta accezione il linguaggio naturale e declinarlo in SQL è un punto nevralgico
Si tratta di domini d’uso interessanti e nei quali i LLM devono maturare ancora un po’. Questione di dati e di tempo.
Ottertune
Per l’amministrazione di database MySQL e PostgreSQL si può fare uso di Ottertune che tramite agenti appositi individua e risolve criticità al fine di mantenere i database rapidi e funzionanti. Il costo è di 110 dollari al mese per ogni database (100 euro circa) e, pure non essendo propriamente un esempio di LLM fa molto bene il suo lavoro, permettendo l’impostazione di soglie (threshold) le quali, se sorpassate, generano eventi prestabiliti per il mantenimento della struttura dei dati. L’esempio classico è il dimensionamento delle tabelle quando raggiungono una percentuale dello spazio disponibile.
Traduzioni
I giganti del web si stanno dando un gran daffare nel campo della traduzione del testo scritto e della voce. L’uso di LLM renderà questa corsa più rapida e affascinante nella quale Google ricopre un ruolo di prim’ordine, pure non essendo l’unica attrice sulla scena.
Microsoft Translation Service
Microsoft Translation Service è un’ottima soluzione ed è integrata in molti dei prodotti di Redmond, oltre a essere un’app disponibile per dispositivi mobili che può essere provata senza costi, esperienza peraltro utile per comprendere i progressi che si stanno facendo in questo ambito. Anche Meta è molto attiva e i risultati si possono osservare usando il traduttore nativo disponibile su Facebook.
Copywriting
Altro ambito in cui i LLM danno il meglio di loro stessi, come dimostrano i tanti strumenti sviluppati sui modelli linguistici attuali, con particolare riferimento a GTP-2 e seguenti.
Contenda
Contenda funziona nel modo più classico: è un servizio online sul quale si può caricare un contenuto che va considerato al pari di una traccia e Contenda lo sviluppa a seconda della destinazione finale, sia questa
il blog aziendale, i social media o un tutorial. L’uso è facile ma è limitato alla lingua inglese.
Copysmith
Copysmith ha una vocazione per l’eCommerce, creando descrizioni per i prodotti ed è anche utile per il web marketing. I prezzi partono da 19 dollari al mese e può essere provato gratuitamente.
Cohere
Cohere genera contenuti con uno spiccato senso per le Faq, compito che svolge in modo lineare e snello in oltre 100 lingue. Il costo varia a seconda dell’uso e dal servizio scelto, Cohere infatti può essere utilizzato anche per generare e classificare contenuti, cosa quest’ultima utile nel supporto ai clienti laddove si intende assegnare ticket in base alle necessità specifiche dei clienti.
Generazione pagine web
Pygma va a braccetto con Figma, piattaforma no-code che permette di creare design.
Pygma
Pygma trasforma in codice Css, Html e React (una libreria JavaScript) i design creati rendendo la codifica rapida e snella. Produce codice allineandosi allo stile dei team di sviluppo e consente di generare immagini e testo sfruttando le informazioni e le istruzioni di cui dispone.
È uno strumento molto potente per la creazione di siti web, fermo restando che laddove si rende necessario un linguaggio settoriale o una certa prudenza nella scelta delle parole, fare troppo affidamento sui LLM è una soluzione ardita.
Assistenza generale
Chi è particolarmente interessato alle Intelligenze artificiali dovrebbe tenere sott’occhio Adept AI, strumento generalista in via di sviluppo sulle cui date di rilascio, per il momento, non ci sono informazioni certe.
Si preannuncia come uno strumento in grado di interagire con tutto ciò che un computer è in grado di fare, a cominciare dalle ricerche online fino all’uso di strumenti professionali prodotti da Google o Salesforce, per esempio per creare report contabili.
Strumenti simili, per quanto promettenti, funzionano se integrati ad apposite piattaforme e servizi, ma saranno oggetto di sviluppi persino sorprendenti per il futuro, immaginando una sempre più inclusiva e totale interazione uomo-macchina.
Feedback
Ci sono LLM che vanno in soccorso delle imprese che vogliono conoscere il sentiment dei rispettivi clienti. Non c’è soltanto la gestione del supporto ma anche l’analisi delle recensioni online e la gestione di sondaggi. Si muovono in queste direzioni il già citato Cohere e Anecdote, piattaforma che sfrutta le capacità semantiche di ChatGPT e che si integra con piattaforme largamente diffuse come Slack, favorendo così il lavoro in gruppo e l’assegnazione dei task.
È interessante anche Viable, che raccoglie feedback esaminando e trascrivendo le conversazioni con i clienti effettuate via chat, telefono ed email. Una filosofia del tutto simile è quella seguita da Enterpret, che predilige però l’integrazione con le più diffuse piattaforme online tra le quali store, merchant e quelle social.
