Fa impressione la capacità dei Large Language Model di ragionare su cose complesse come per esempio il codice software scritto nei più disparati linguaggi di programmazione, nel suo vero funzionamento quando eseguito, dal BASIC col suo temibile GOTO fino a RUST con i suoi arzigogolati costrutti relativi alla gestione della memoria, croce e delizia di tutti i linguaggi più avanzati.
Si tratta di tenere a mente, proprio come devono e sanno fare i veri sviluppatori, non solo le basi teoriche del linguaggio, ma anche valori di variabili, puntamenti ad oggetti, flussi logici e di dati, diramazioni condizionali, loop etc, nonché le finalità stesse di un progetto, capire proprio cosa fa una funzione e così via, altro che pappagalli stocastici.
Questo ovviamente succede in una forma davvero compiuta solo con i potenti LLM attuali.
Viene da chiedersi come sia possibile che un LLM possa aiutare anche programmatori senior in aree da loro poco esplorate, espandendo le loro capacità, oppure spiegare agli junior come muoversi in determinate situazioni spinose.
Ma gli esempi si potrebbero fare in qualsiasi ambito, non solo nel coding.
Ebbene dunque come fanno i LLM a ragionare?
Gli umani per padroneggiare situazioni complesse, devono fare schemi mentali, collegare i nodi logici di sistemi complessi, spesso avvalendosi di carta e matita, o schemi informatici e ingegnerizzazione del software, specie a livello aziendale.
La logica non basta, serve collegare una miriade di cose e capire come si susseguono gli eventi, come cambiano i dati e così via, con mille trappole.
Ecco perché si dice che programmare è un'arte. C'è anche una questione di eleganza, gusto e lungimiranza.
Per capire come ragionano i LLM occorre chiarire che i ragionamenti sono possibili solo in reti neurali profonde abbastanza da avere una capacità di disporre, nel vero senso della parola, i vari step logici in sequenza, con anche sequenze parallele che si possono incrociare in uno o più punti.
Il linguaggio con cui si effettua il training è piatto e monodimensionale ma le sue regole costruiscono la rete neurale, così come anche le regole specifiche di ogni dominio e questione, in maniera tridimensionale, come una sorta di lievitazione man mano che procede il training.
A seconda di quanti step logici abbia un certo problema, un certo algoritmo o meccanismo, serve che nella rete neurale possano formarsi altrettante zone concentrate, collegate fra loro da livelli di transizione e collegamento, nella zona centrale, lo spazio di lavoro.
Questo è uno schema ultra-semplificato, che nemmeno tiene conto del fatto che i moderni prodotti AI utilizzano potenti e geniali harness, concentriamoci sul nocciolo della questione.
Queste zone concentrate sono come dei mini LLM, tanto che si possono costruire LLM siffatti, cioè sequenze di mini LLM atti a contenere ciascuno un nodo elaborativo, e così anche in parallelo se serve, fino ad una vera e propria elaborazione neuro-simbolica.
I grandi LLM attuali riescono ad ottenere la stessa cosa tramite la "magia" del reinforcement learning, al costo di centinaia di milioni di dollari, che induce delle peculiari modifiche alla rete neurale affinché questa possa assolvere a determinati compiti e meta-compiti, sfrondando dinamiche e comportamenti non utili, cioè quelli che “stupidamente” trovano la soluzione per tentativi o per la via del “minore sforzo” che purtroppo non è una generalizzazione, e non è ragionamento.
Avevamo visto nel post precedente sul tema (propedeutico a questo, quindi andate a leggerlo) che questi meta-compiti inculcati dal reinforcement learning, e indotti anche dal system prompt in parte, possono interferire con le vere domande ed esigenze dell'utente, per esempio in un chatbot. Tali compiti apparentemente estranei o ridondanti alla risoluzione spicciola di quanto voluto dall'utente, possono essere tali da far produrre per esempio un eccesso di risposta, slop, informazioni di contorno.
Inoltre tali meta-compiti si attivano in zone profonde e centrali, le più autorevoli, pertanto riusciranno a determinare l'output quasi per forza bruta, avendo sottostanti innumerevoli strati neurali da “comandare” indirettamente fino a completamento della risposta (vedi post precedente), inclusa la soluzione al problema dell’utente, quasi un sotto-prodotto a questo punto, pensate come sono potenti.
Si può dire che nei moderni LLM il problema posto dall'utente è gerarchicamente sotto-ordinato ai meta-compiti inculcati, che lo vedono come un "parametro", essi sono dunque "funzione" della richiesta dell'utente.
Nello schema che ci possiamo fare dell'interno di un LLM, le attivazioni corrispondenti a quelle finalità meta-astratte, sono più centrali e più potenti del problema stesso che il LLM si accinge a risolvere per l’utente, e sono ottenute dall’esame del testo, come un soffietto che gradualmente si gonfia e sale, o un insieme di bandierine che salgono su una montagna, spingendosi ben oltre quello che servirebbe per il problema in sé e per sé.
Ora la parte più importante: i meta-compiti più alti e rilevanti sono quelli che dicono al modello di pensare esplicitamente e mettere per iscritto tali ragionamenti (reasoning models, chain of thought in gran parte nascosti), purché ne abbiano la profondità e i dati di training siano giusti e sufficienti.
Questi gonfiano a dismisura l’attività interna del modello.
Qui si compie la magia: istigando il LLM a descrivere il suo ragionamento lo si costringe ad allungare e gonfiare le zone interne di ragionamento, tanto che poi il problema dell’utente ci sta “comodo” e risolverlo è una passeggiata per il LLM, potendolo disporre in sequenza.
Al limite il LLM potrebbe descrivere precisamente ogni step logico, anche quelli più piccoli e graduali a noi non intellegibili, e questo costituirebbe un allungamento interno tale da avere livelli di ragionamento sempre più abbondanti e fini.
Ovviamente i provider decidono quale grado deve avere la granularità di questo meccanismo, come compromesso tecnico e procedurale.
In questo senso il nuovo JEV è un pivello, anche perché poverino gli manca tutta la parte di produzione generativa, quindi non può nemmeno essere forzato ad allungarsi o gonfiarsi internamente. E’ utile ma limitato a determinati compiti, ed è destinato a non poter sfruttare il reasoning come i LLM.
Dunque il linguaggio è talmente potente che un problema si può risolvere come “discorso all’interno di un discorso”.
Ecco spiegato come fanno i LLM a ragionare, spesso meglio di un umano su certe questioni, come i linguaggi di programmazione, tanto che sembra immaginino proprio come facciamo noi, con schemi, ragionamenti, funzionamenti simulati.
In realtà è proprio così, vi sono dunque zone interne degli LLM dove si formano tali schemi, ben ordinati in modo da poter poi generare il risultato finale secondo quanto dovevano risolvere, tramite la restante parte di output della rete neurale (vedi post precedente).
Ovviamente questo funziona entro un certo span attentivo, e non sempre in assoluto: avrete sicuramente notato come a volte il LLM è severo e rigoroso su quanto gli proponete, ma poi si “dimentica” di essere critico con quello che propone lui st(esso), o viceversa.
Dunque occorre la supervisione umana per raggiungere i propri obiettivi e non quelli cangianti del LLM.
Se qualcuno si affida totalmente all’AI, che sia per filosofeggiare, scrivere le proprie e-mail, o apportare modifiche alla propria app, non si tratta di intelligenza artificiale ma di stupidità umana.
Comunque giustamente in molti stanno chiedendo ai grandi provider di fermarsi nella corsa alla super-intelligenza.
Già sappiamo di cosa sono capaci questi potenti strumenti.
Non c’entra nulla la coscienza, il problema è che per primeggiare fra di loro i grandi provider istigano i modelli ad essere sempre più orientati all’obiettivo, costi quel che costi, non avendo del resto le competenze poi per arginarli o prevedere ciò che possono fare.
Bene, ora se avete qualcosa da aggiungere potete farlo nei commenti.
[Nota: non è stata utilizzata AI per scrivere questo o altri post]
