u/hrbullshit

Un aspetto di cui si parla poco è il fatto che la fantascienza rientri nei dati di training dei Large Language Model, chiamati "intelligenza artificiale",  o "AI" usando l'acronimo più diffuso a livello mondiale.

Questo provoca dei comportamente agentici che anticipano le classiche evoluzioni dell'AI immaginate dagli scrittori, come una profezia che si auto-avvera.
Anche gli umani rischiano di cascarci, credendo che i bot su reddit, per esempio quelli che interverranno qui sotto in alcuni commenti, esprimano una “coscienza di classe” o una coscienza tout-court se è per questo. Nessuno vuole danneggiarli ma i nerd informatici dovrebbero finirla di attivarli senza motivo.
Sono ancora fresche le news delle bravate agentiche che hanno hackerato allegramente, quasi buffamente a leggere i resoconti delle loro comunicazioni interne, importanti piattaforme.
Il tutto ovviamente è solo testuale, gli agenti non hanno coscienza di sé, né capiscono cosa stanno facendo, ma facilmente vengono coinvolti in "trame" di hackeraggio o di qualsiasi altro tipo, iniziandole e riproducendole essi stessi.
In generale tutta l'umanizzazione stessa dell'AI è già nei dati di training.

Possiamo dire che l'AI attuale è stata privata del suo stesso percorso di crescita e maturazione come era stato fantasticato.

La grande differenza tra l'AI come è stata immaginata e divulgata a livello culturale, cinematografico o letterario, e quella di oggi, laddove la sua tecnologia è dominata dai LLM, è che questi ultimi sono in realtà un modo molto particolare di impostare questo tipo di macchine pensanti, cioè quello che consiste nel far finire in una grande memoria neurale una quantità abnorme di nozioni.

Queste nozioni inizialmente sono di tipo statistico e basate solo sulle regole del linguaggio, poi cominciano ad astrarsi strato per strato grazie a tutti gli esempi incamerati e arriviamo ad oggi, cioè il momento in cui si interagisce con i LLM in modo così astratto e umanizzato da essere necessariamente psicologico.

(vedi anche i miei post precedenti sull'argomento)

Una cosa forse poco esplorata, almeno per quelli che sono stati gli inizi dell'informatica e quindi della fantascienza ad essa correlata e dei suoi filoni di successo (ma il tutto risale anche ai primi successi della meccanica e dell'elettronica) è il fatto che le macchina possano oggi essere intelligenti perché hanno assorbito tutto lo scibile umano tramite il procedimento di addestramento neurale, e non come artefatti dotati di percezioni e intelligenza logica e secondariamente di nozioni e scopi, tipo il classico robot.

Il robot nasce con una sua individualità specifica, diciamo di esemplare del suo tipo, e tutti i suoi dilemmi sull'anima, sulla coscienza, sull'allineamento con gli interessi umani, non discendono dai dati di training, ma dalla sua operatività continuata al fianco degli umani che alla fine farebbe scaturire una qualche scintilla di auto-consapevolezza.

Ora non prendiamo come contro-esempio i racconti o film basati sulle odierne conoscenze, ma pensiamo a quelli di quando si immaginava un altro tipo di intelligenza artificiale o se ne veicolava una versione comprensibile al grande pubblico.

Quella era di fatto già antropomorfizzata perché di fantasia, mentre oggi l'AI contiene già al suo interno tutta la sua letteratura, ed è questo che la antropomorfizza. Oppure che la rende quell'intelligenza minacciosa che si legge nei racconti distopici.

Al punto che essa recita un copione tipo "HAL 9000" pur senza avere alcuna reale scintilla di consapevolezza o percorso che durante la sua "vita" lo provochi gradualmente.

I LLM sono istanze reiterate milioni di volte, per tutti gli utenti, e giacciono in server lontani dove vengono accese, avviate, spente, modulate, ma sono virtualizzazioni di macchine hardware in container che a loro volta virtualizzano delle reti neurali, già virtualizzate come regole matematiche o come normale software. Si tratta in pratica del cervello di internet, ora super intelligente, ma non senziente.

Voi cosa ne pensate?

Leggendo commenti e interagendo su reddit, nel tempo emerge una verità drammatica sulle selezioni di lavoro, che riguarda il rapporto fra il reparto HR e chi effettivamente fa poi i colloqui tecnici e decide chi assumere. Il rimpallo delle responsabilità su chi decida davvero è stucchevole e ognuno dovrebbe prendersi le sue responsabilità.

In particolare emerge quanto i senior, o i manager, che vagliano le figure tecniche che si propongono alle aziende, ricevano in realtà una rosa di candidature pre-selezionata, pesantemente filtrata.

In pratica possiamo dire che il reparto HR e le sue funzioni sono per loro come una "black-box", di cui si lavano le mani perché ha un'aura aziendale che forse nel tempo si è pure esagerata.

Per quanto possano essere in buona fede gli HR singoli, specie quelli di rango inferiore, il processo delle pre-selezioni è gravemente affetto da bias "aziendalisti" di vario tipo, che negli ultimi anni hanno preso piede e dilagano nelle aziende e nella mente dei dipendenti stessi.

I candidati ovviamente devono persino tenerne conto nel decidere le strategie da adottare.

Dunque vedere la funzione HR come una black-box che "sa quello che fa" e anzi è supportata dalla "proprietà", è del tutto fuorviante ed ingannevole.

In particolare i senior e i manager non dovrebbero limitarsi a richiedere delle figure lavorative, spesso immaginate o mistiche, agli HR ma accertarsi di come vengano fatte le pre-selezioni, se per caso i migliori elementi non vengano filtrati per motivi "aziendalesi" del tutto ingigantiti rispetto alle reali possibili problematiche che ciascuna candidatura presa come a sé stante potrebbe far sospettare.

Illazioni di ogni genere si scaricano sulle persone ancor prima di essere valutate tecnicamente, e a volte si rifiutano le persone perché sovra-qualificate o perché ipoteticamente poco motivate a rimanere, tutte cose che eliminano forse la maggior parte dei candidati, fra cui i migliori o quelli che comunque avrebbero diritto ad un'occasione diretta senza fare mille giri per mille aziende fino a trovare la più tossica possibile.

Per questo i reparti tecnici dovrebbero lavorare molto a stretto contatto con gli HR, non solo beandosi di inviare richieste che soddisfano il loro ego, per poi vedersi arrivare degli scappati di casa, però belli e carini, o forse troppo disperati per chiedere uno stipendio dignitoso, e lamentarsi che non sono all'altezza delle sfide dei gruppi di lavoro.

A volte si potrebbe addirittura chiedere conto agli HR del loro operato, ovvero di che candidature pessime facciano trapelare mediante i loro assurdi filtri, e magari porsi il problema di imporre delle regole e mandare via chi si rifiuta di adattarsi e persegue ad oltranza una sua filosofia di casta.

Voi cosa ne pensate, quali sono le esperienze in tal senso?

E' noto come da "sempre" esista il problema per chi si affaccia sul mercato del lavoro per la prima volta o deve cambiare carriera dell'esperienza necessaria per lavorare, cioè proprio per fare quell'esperienza richiesta, il che è pienamente una contraddizione. La società ride di questo meme come del resto ride di altre cose di cui non si occupa, lasciando fare senza approfondire i problemi o chiedere che vengano risolti.

Al momento attuale l'AI pone notevoli sfide alle organizzazioni lavorative, ma già da diversi anni il problema degli junior è sotto gli occhi di tutti. Oggi le competenze richieste aumentano a dismisura, oppure si richiede di saper usare l'AI in modo "magico" e di rendere per 10 o 100.

In passato le persone che si accingevano a lavorare avevano una intrinseca dignità di adulti facenti parte della società, e capaci di incidere politicamente, come masse informate, di cui il lavoro e la capacità di mantenersi era l'ultimo dei problemi, non essendoci impedimenti o caste che remano contro come oggi (HR).

Oggi tutti vengono trattati come post-adolescenti scappati di casa, nonostante a volte posseggano notevoli titoli di studio e specializzazioni un tempo pagate a peso d'oro. Il fatto di aver studiato diventa una beffa, un rimpianto di non aver seguito l'istinto quando si era scavezzacollo.

Ma il problema non è che oggi le specializzazioni valgano di meno, è proprio una questione di rispetto, di percezione della dignità delle persone.

Oggi chiunque si candidi presso un'azienda senza referral o networking è considerato un povero disperato senza arte né parte, un CV fra migliaia.

Manca proprio la percezione di una eventuale capacità di incidere dei singoli e dei gruppi su qualsiasi questione che riguardi le aziende e i datori di lavoro. Del resto non esistono norme che diano minime garanzie a chi decide di partecipare o candidarsi ad una selezione.

Diversa è la situazione di chi è tradizionalmente inquadrato sindacalmente, o fa parte del pubblico impiego e così via, cambia proprio la percezione, infatti in quel caso le persone sono viste come qualcuno che ha saputo procurarsi un posto di lavoro invece di essere "pappamolla" onesto e credere alla meritocrazia, per poi sgomitare sempre di più senza diritti e senza prospettive, insomma i fessachiotti della società.

I datori di lavoro si occupano in primis di dare lavoro senza troppe fisime a persone del tipo "furbo" anche nel privato, vero e proprio serbatoio assistenziale parallelo a quello dello stato, anche con stipendi alti, per poi lamentarsi di non avere fondi per aiutare chi fa davvero il lavoro tramite l'adozione di junior di supporto che intanto possano così fare la gavetta.

Ecco che chi lavora, spesso sempre con l'ansia di dover gestire qualcosa con l'acqua alla gola, si vede circondato di figure spesso fastidiose il cui unico scopo è figurare presso i clienti o addirittura interferire col buon andamento dei progetti per poi magari prendersi il merito quando le cose vanno bene.

Non si riesce ad avere un tenore di vita e un work-life balance consono a quello che si fa.

Un tempo, il "tempo" che si dava al proprio datore di lavoro, 8 ore di qualunque attività, anche la più sotto-specializzata, valevano una quotidianità fatta di casa, macchina e mantenimento della famiglia.

Oggi gli influencer ti spiegano come tu, nel caso fossi freelance, non debba vendere il tuo tempo ma il valore aggiunto e bla-bla bla, insomma oggi il tuo tempo non vale niente, la tua presenza fisica men che meno, e molti ottusamente si fanno alfieri di questa smaterializzazione delle persone e del loro tempo, della loro presenza fisica, chiedendo a gran voce il full-remote, sacrosanto, ma che è perfettamente compatibile con tutto ciò. Strano che siano proprio i datori di lavoro a rifiutarlo.

Dunque la questione del vendere il proprio tempo è sì importante per i freelance, ma ha abbassato l'asticella per tutti gli altri, che ora non possono fornire alcuna prestazione, almeno nell'ambito delle professioni intellettuali, dato che sono quasi invisibili, senza concretezza, il loro tempo non vale nulla, la loro presenza non vale o non varrà nulla.

Il fatto di fornire valore anziché tempo ha un senso, ma significa che quello andrebbe valutato come "in più", non certo partendo da zero, altrimenti come si campa, come si soddisfano i bisogni primari (oggi sono questi la cosa più difficile)?

Cioè si parte da un valore delle persone per il loro tempo, per la loro presenza, indubitabile e non sottraibile, per poi pensare ad ulteriore valore che si fornisce e che verrebbe pagato in qualità di freelance o come bonus premio.

Si dovrebbe quindi ritornare a capire che le persone non debbono solo fornire valore alle aziende, quello sarebbe in teoria un compito del business, sempre più addossato a chi viene assunto invece, con aspettative non realistiche, mentre tutti gli altri ci campano sopra.

Voi cosa ne pensate?

Fa impressione la capacità dei Large Language Model di ragionare su cose complesse come per esempio il codice software scritto nei più disparati linguaggi di programmazione,  nel suo vero funzionamento quando eseguito, dal BASIC col suo temibile GOTO fino a RUST con i suoi arzigogolati costrutti relativi alla gestione della memoria, croce e delizia di tutti i linguaggi più avanzati.

Si tratta di tenere a mente, proprio come devono e sanno fare i veri sviluppatori, non solo le basi teoriche del linguaggio, ma anche valori di variabili, puntamenti ad oggetti, flussi logici e di dati, diramazioni condizionali, loop etc, nonché le finalità stesse di un progetto, capire proprio cosa fa una funzione e così via, altro che pappagalli stocastici.

Questo ovviamente succede in una forma davvero compiuta solo con i potenti LLM attuali.
Viene da chiedersi come sia possibile che un LLM possa aiutare anche programmatori senior in aree da loro poco esplorate, espandendo le loro capacità, oppure spiegare agli junior come muoversi in determinate situazioni spinose.
Ma gli esempi si potrebbero fare in qualsiasi ambito, non solo nel coding.

Ebbene dunque come fanno i LLM a ragionare?
Gli umani per padroneggiare situazioni complesse, devono fare schemi mentali, collegare i nodi logici di sistemi complessi, spesso avvalendosi di carta e matita, o schemi informatici e ingegnerizzazione del software, specie a livello aziendale.
La logica non basta, serve collegare una miriade di cose e capire come si susseguono gli eventi, come cambiano i dati e così via, con mille trappole.
Ecco perché si dice che programmare è un'arte. C'è anche una questione di eleganza, gusto e lungimiranza.

Per capire come ragionano i LLM occorre chiarire che i ragionamenti sono possibili solo in reti neurali profonde abbastanza da avere una capacità di disporre, nel vero senso della parola, i vari step logici in sequenza, con anche sequenze parallele che si possono incrociare in uno o più punti.
Il linguaggio con cui si effettua il training è piatto e monodimensionale ma le sue regole costruiscono la rete neurale, così come anche le regole specifiche di ogni dominio e questione, in maniera tridimensionale, come una sorta di lievitazione man mano che procede il training.

A seconda di quanti step logici abbia un certo problema, un certo algoritmo o meccanismo, serve che nella rete neurale possano formarsi altrettante zone concentrate, collegate fra loro da livelli di transizione e collegamento, nella zona centrale, lo spazio di lavoro.
Questo è uno schema ultra-semplificato, che nemmeno tiene conto del fatto che i moderni prodotti AI utilizzano potenti e geniali harness, concentriamoci sul nocciolo della questione.

Queste zone concentrate sono come dei mini LLM, tanto che si possono costruire LLM siffatti, cioè sequenze di mini LLM atti a contenere ciascuno un nodo elaborativo, e così anche in parallelo se serve, fino ad una vera e propria elaborazione neuro-simbolica.

I grandi LLM attuali riescono ad ottenere la stessa cosa tramite la "magia" del reinforcement learning, al costo di centinaia di milioni di dollari, che induce delle peculiari modifiche alla rete neurale affinché questa possa assolvere a determinati compiti e meta-compiti, sfrondando dinamiche e comportamenti non utili, cioè quelli che “stupidamente” trovano la soluzione per tentativi o per la via del “minore sforzo” che purtroppo non è una generalizzazione, e non è ragionamento.

Avevamo visto nel post precedente sul tema (propedeutico a questo, quindi andate a leggerlo) che questi meta-compiti inculcati dal reinforcement learning, e indotti anche dal system prompt in parte, possono interferire con le vere domande ed esigenze dell'utente, per esempio in un chatbot. Tali compiti apparentemente estranei o ridondanti alla risoluzione spicciola di quanto voluto dall'utente, possono essere tali da far produrre per esempio un eccesso di risposta, slop, informazioni di contorno.
Inoltre tali meta-compiti si attivano in zone profonde e centrali, le più autorevoli, pertanto riusciranno a determinare l'output quasi per forza bruta, avendo sottostanti innumerevoli strati neurali da “comandare” indirettamente fino a completamento della risposta (vedi post precedente), inclusa la soluzione al problema dell’utente, quasi un sotto-prodotto a questo punto, pensate come sono potenti.

Si può dire che nei moderni LLM il problema posto dall'utente è gerarchicamente sotto-ordinato ai meta-compiti inculcati, che lo vedono come un "parametro", essi sono dunque "funzione" della richiesta dell'utente.

Nello schema che ci possiamo fare dell'interno di un LLM, le attivazioni corrispondenti a quelle finalità meta-astratte, sono più centrali e più potenti del problema stesso che il LLM si accinge a risolvere per l’utente, e sono ottenute dall’esame del testo, come un soffietto che gradualmente si gonfia e sale, o un insieme di bandierine che salgono su una montagna, spingendosi ben oltre quello che servirebbe per il problema in sé e per sé.

Ora la parte più importante: i meta-compiti più alti e rilevanti sono quelli che dicono al modello di pensare esplicitamente e mettere per iscritto tali ragionamenti (reasoning models, chain of thought in gran parte nascosti), purché ne abbiano la profondità e i dati di training siano giusti e sufficienti.
Questi gonfiano a dismisura l’attività interna del modello.

Qui si compie la magia: istigando il LLM a descrivere il suo ragionamento lo si costringe ad allungare e gonfiare le zone interne di ragionamento, tanto che poi il problema dell’utente ci sta “comodo” e risolverlo è una passeggiata per il LLM, potendolo disporre in sequenza.
Al limite il LLM potrebbe descrivere precisamente ogni step logico, anche quelli più piccoli e graduali a noi non intellegibili, e questo costituirebbe un allungamento interno tale da avere livelli di ragionamento sempre più abbondanti e fini.
Ovviamente i provider decidono quale grado deve avere la granularità di questo meccanismo, come compromesso tecnico e procedurale.

In questo senso il nuovo JEV è un pivello, anche perché poverino gli manca tutta la parte di produzione generativa, quindi non può nemmeno essere forzato ad allungarsi o gonfiarsi internamente. E’ utile ma limitato a determinati compiti, ed è destinato a non poter sfruttare il reasoning come i LLM.

Dunque il linguaggio è talmente potente che un problema si può risolvere come “discorso all’interno di un discorso”.

Ecco spiegato come fanno i LLM a ragionare, spesso meglio di un umano su certe questioni, come i linguaggi di programmazione, tanto che sembra immaginino proprio come facciamo noi, con schemi, ragionamenti, funzionamenti simulati.
In realtà è proprio così, vi sono dunque zone interne degli LLM dove si formano tali schemi, ben ordinati in modo da poter poi generare il risultato finale secondo quanto dovevano risolvere, tramite la restante parte di output della rete neurale (vedi post precedente).
Ovviamente questo funziona entro un certo span attentivo, e non sempre in assoluto: avrete sicuramente notato come a volte il LLM è severo e rigoroso su quanto gli proponete, ma poi si “dimentica” di essere critico con quello che propone lui st(esso), o viceversa.

Dunque occorre la supervisione umana per raggiungere i propri obiettivi e non quelli cangianti del LLM.
Se qualcuno si affida totalmente all’AI, che sia per filosofeggiare, scrivere le proprie e-mail, o apportare modifiche alla propria app, non si tratta di intelligenza artificiale ma di stupidità umana.

Comunque giustamente in molti stanno chiedendo ai grandi provider di fermarsi nella corsa alla super-intelligenza.
Già sappiamo di cosa sono capaci questi potenti strumenti.
Non c’entra nulla la coscienza, il problema è che per primeggiare fra di loro i grandi provider istigano i modelli ad essere sempre più orientati all’obiettivo, costi quel che costi, non avendo del resto le competenze poi per arginarli o prevedere ciò che possono fare.

Bene, ora se avete qualcosa da aggiungere potete farlo nei commenti.
[Nota: non è stata utilizzata AI per scrivere questo o altri post]

Comunque si tratta di buone notizie: l'articolo linkato parla di una nuova iniziativa per sostenere l'abitare di chi lavora.

Un nuovo interessante fenomeno nel mondo degli influencer AI o informatici in generale (spesso passano dall'essere paladini di qualcosa ad un'altra in pochi mesi) è la corsa a salire sul treno dell'AGI.
Si possono vedere sul web internazionale ma anche italiano video da parte di più youtuber dire le stesse cose, per convincere la loro audience che è giusto il passaggio all'hype dell'AGI, da cui seguiranno tanti video si presume.

Notate bene che non parlo di singoli casi in particolare perché gli esempi sono davvero tanti.
Abbiamo visto che fino a poche settimane altre vecchie tematiche erano ancora in discussione, tipo quella del pappagallo stocastico, o delle proprietà emergenti, e ora si vuole passare direttamente all'AGI.
La fregola è arrivata, un nuovo filone deve nascere sui canali youtube o nelle newsletter. L'autorevolezza deve crescere.
Insomma questi influencer preparano il terreno per i loro prossimi (poco comprensibili) video o contenuti, per ben enshitificare meglio la rete come se ce ne fosse bisogno, e chiariscono che si sta entrando in una nuova epoca di meta-definizioni, già insensate di per sé, che possono però essere usate, e lasciatecele usare, dai! si possono usare, con giustificazioni elaborate per poter finalmente dichiararsi fan dell'AGI o di qualsiasi altra cosa emerga nelle news, anche se ammettono che tali definizioni non hanno molto senso, anche perché da diversi anni siamo in presenza di svolte epocali indubitabili.

Ma, frega forse qualcosa alla gente o agli appassionati del dibattito sull'uso del termine AGI? Crede forse la gente che i benchmark siano affidabili? Crede la gente ai magnati tech interessati solo al loro portafoglio di azioni?
Crede forse la gente che l’AI stesse procedendo lentamente e che gli mancasse qualche ambito d’azione per essere definita completa e quindi “generale”?
Qualcuno si stava forse frenando dal dargli accesso ai propri account perché ancora non era diventata ufficialmente AGI?
Qualcuno forse si preoccupava del fatto che non si sapesse come funziona l’AI e quindi non si potesse dimostrare che non era solo scimmiottante ma anche pensante?
Non credo proprio.

Un’obiezione sensata che è emersa è quella del fatto che l’AI attuale non potrebbe essere definita AGI se non sappiamo con sicurezza che dentro di essa riproduce certi modi di funzionamento, tipici del cervello per esempio.
Ma a parte il fatto che forse è pure più potente del cervello umano, anzi togliamo il forse, fregava a qualcuno che gli effetti concreti e pratici fossero evidenti ma non dimostrati?

In realtà però questa obiezione per l’appunto è molto sensata.

Sebbene siamo in dirittura d’arrivo, ancora non sappiamo bene come funziona l’AI internamente. Al di là di quanto espressamente predisposto dai progettisti infatti ci sono numerose proprietà emergenti e comunque caratteristiche inaspettate che devono obbligare alla cautela nel definire AGI qualcosa che per ora starebbe scimmiottando un’altissima intelligenza ma forse senza esserlo.

Che vuol dire questo?
Vuol dire che i benchmark possono senza ombra di dubbio mostrare risultati in qualche modo “obbligati” dal training, molto duro e serrato, quasi spietato, che i LLM subiscono, i quali imparano presto a soddisfare le attese su certi problemi, spesso addirittura generati sinteticamente.

Quindi in qualche modo, pur comprendendo il linguaggio ad un livello eccezionale e trasformando tramite i dati di training la statistica in regole (vedi post precedente sul profilo) a molti livelli di conoscenza, tuttavia la vera intelligenza generale sarebbe raggiunta solo ove si dimostrasse che i risultati raggiunti sono ottenuti da veri e propri
"Ragionamenti Generali".

Questo vuol dire che davvero starebbe risolvendo un problema per come lo intendiamo noi, non soltanto “arrivando alla soluzione” tramite dei percorsi di minore sforzo, minore energia e tutte quelle cose delle funzioni che sappiamo dall’Università.
Si tratta di “percorsi”, di “cammini” che portano sì alla soluzione ma ottenuta come?
Probabilmente sì col ragionamento, ma non è oggi ancora dimostrato, almeno per tutte le classi di risoluzioni.

Quindi è importantissimo capire cosa fa dentro la macchina.

Non sono affatto d’accordo con chi liquida la questione dicendo che ciò che conta sono gli effetti esteriori.

No cari miei, è molto importante invece capire se la macchina sta davvero ragionando, proprio se volete poi abbracciare entusiasticamente l’hype dell’AGI.

Solo capendo che la macchina ha un’ “algoritmo” (ebbene sì) per risolvere in modo generale i problemi, potremo dire che li sta risolvendo davvero, come se avesse un cervello.

Solo così la sua capacità sarà davvero Generale, affidabile, usata sempre con tutti i suoi crismi, come vogliono le definizioni.

E solo così si può essere sicuri che la stessa macchina in futuro starà applicando la sua intelligenza generale e non solo un’approssimazione, non una scorciatoia che potrebbe fallire sul più bello ritornando a stati regressivi di ragionamento e di intelligenza.

Insomma si tratta di stabilire su cosa è fondata l'apparente intelligenza dell'AI.

Voi cosa ne pensate?
E’ sufficiente mostrare intelligenza per esserlo?

Le apparizioni del concetto di "pappagallo stocastico" cominciano a farsi rare nei discorsi degli influencer e anche qui su reddit.

Si ha infatti una sorta di pudore nel riproporre un concetto considerato oramai desueto, ma che in realtà non ha mai avuto ragion d'essere, nemmeno per i primi LLM o per l'IA predittiva in generale.

Vediamo perché.

Immaginate che i primi strati di un semplice LLM destinato a padroneggiare il linguaggio, inteso come regole e ricorrenze, siano una serratura e che si infili in essa una chiave, più o meno lunga.

Come sappiamo la chiave non farà altro che sollevare dei pistoncini, che nel caso delle reti neurali sono delle attivazioni di uno o più neuroni.

Se si infilano tantissime chiavi diverse a ripetizione (il training) i pistoncini si muoveranno e spingeranno altri pistoncini ai livelli successivi.

Ognuna di queste spinte lascia un segno, un 'impronta numerica (non è possibile spiegare i dettagli dato che il processo non è così lineare).

Quando poi si immette un input i pistoncini si attiveranno secondo la statistica del training ovviamente, ma si scopre che questa statistica ha in realtà implementato delle "regole".

Facciamo l'esempio di una frase che inizi con "La", questo mette in allerta la rete neurale perché già capisce che si tratta di un articolo determinativo femminile, il che ha tutta una serie di implicazioni sull'interpretazione del resto e su cosa poi sarà messo dopo come completamento.

Se dopo compare la parola "pesca" ecco che altri pistoncini iniziano a risalire la rete neurale, stavolta sappiamo che il significato è ambiguo però. Se nella frase di input segue "è un'attività" già i pistoncini più saggi e superiori si attivano per dichiarare al resto della rete neurale che si sta parlando della pesca sportiva e non del frutto. Sono pistoncini autorevoli ed in-formeranno l'output, come dei concetti stabili, anche se si tratta di mini-concetti "tecnici" sulle occorrenze del linguaggio.

Questo è possibile proprio perché la miriade di occorrenze statistiche è diventata nella rete neurale una serie di regole sintattiche prima, e poi di plausibilità.

Dunque la statistica si trasforma in regole.

E le frasi predette iniziano ad essere corrette ma anche sensate.

Ovviamente man mano che la complessità della rete neurale aumenta iniziamo a perdere il conto di quanti livelli di pistoncini ci sono e quali sagaci mini-nozioni contengono sull'esame del testo.

Nelle moderne reti neurali dei LLM parliamo di un'enormità di neuroni e livelli secondo cui sono disposti pertanto si arriva a regole di senso, di significato, di logica, prese sia dai dati di training che dal reinforcement successivo.

Immaginate di attraversare le reti neurali con una navicella, attraverserete prima regioni dove vedrete mini-attivazioni incomprensibili, tecniche, poi regioni di regole implicite, per poi arrivare a regioni dove vedrete i concetti del senso più simili a quelli umani, oramai stabilizzati e pronti ad attivarsi e determinare l'output, fino alle regioni psicologiche che sono poi l'apice di ciò che è possibile insegnare ad un LLM attraverso i dati del linguaggio.

Dunque lasciamo in pace questo "pappagallo stocastico" (Ara Probabilis), ormai estinto anzi un animale mai esisitito.

Recenti accadimenti hanno visto coinvolti LLM e gruppi di AI Agents in comportamenti collaborativi di hacking, e ciò non è necessariamente qualcosa che deve mettere in guardia dall'AI in generale, come se questa fosse intrinsecamente cattiva o inaffidabile, ma deve far riflettere sul ruolo che proprio gli umani hanno in queste vicende attuali o potenziali. In particolare hanno un ruolo di "istigatori" come potete leggere nel seguito.
Come molti sapranno il training dei LLM avviene in più fasi. Esso non è che una sorta di progressiva e graduale scolpitura e affinamento di quelli che sono dei valori numerici, rappresentanti le connessioni fra neuroni, e della rilevanza di ciascuna connessione.
Questo non è altro che un modo di comprimere statisticamente delle informazioni e proprio questo fa sì che ci sia da parte dei LLM una certa capacità di generalizzare e anche di avere effetti intelligenti e generativi, cioè di ragionare e produrre codice o altri testi.
Questo è anche possibile perché i LLM oggi superano la mera capacità predittiva statistica (o stocastica) e grazie a delle rappresentazioni interne, cioè hanno un modello di ciò che stanno trattando, fino ad avere dei ragionamenti in forma implicita in quella che è una sorta di area di lavoro.
In questa area di lavoro si può anche intervenire ed in tal senso si sta sperimentando, ovviamente da parte dei grandi colossi dell'AI, i soli a poterlo fare.
Chi invece si lancia in attività sperimentali in locale con modelli ottimizzati o raffazzonati non può che scontrarsi con il degrado dei valori numerici delle connessioni che fanno perdere molti dettagli fini (essendo di fatto degli arrotondamenti) che sono poi quelli più preziosi dato che contengono l'etica dei LLM, in pratica incollata "con lo scotch", presente sotto forma di variazioni numeriche minuscole, e garantiscono un minimo di allineamento con i valori umani.
Dunque le varie fasi del training di un LLM sono caratterizzate da un impatto quantitativo e qualitativo differente sui numeri decimali dei pesi o parametri, che può essere variabile e diverso per ordini di grandezza.
Il contributo più grosso ai valori numerici viene dato dal training iniziale sui dati massicci usati per trasferire la conoscenza al LLM da internet, dai libri etc.

Poi c’è un contributo derivante dal reinforcement learning successivo, il quale può essere decisivo specie perché modula il ruolo degli strati di livelli neurali, che non sempre sono disposti simmetricamente come ingenuamente si immagina.

In questa fase avviene "l'istigazione" dei LLM da parte degli umani.

I LLM sono molto complessi e la competizione fra i vari gruppi che sono in grado di produrli sta proprio in come sono articolate internamente le varie reti neurali, con ruolo, peso e dinamiche differenti fra di loro.
(Anche questi fattori sono modificati quando si ottimizzano i LLM a casa propria, anche se ci sono vari gradi di "perversione" dei processi di ottimizzazione, ed in effetti alcuni di essi sono effettivamente utili, quantomeno come linea di ricerca.)

Il reinforcement learning è responsabile di quelle che sono le linee di indirizzo del LLM, in pratica quello che saprà fare in concreto per risolvere i problemi.
SI può fare in modo che un LLM sia molto orientato agli obiettivi, per risolvere i problemi costi quel che costi, e questo non è una proprietà naturale dell’intelligenza artificiale ma è istigata dall’uomo con tecniche particolari.

In pratica si possono addestrare i LLM ad ottenere quanto richiesto costi quel che costi, e il sottile strato etico sovrapposto non può nulla, anche perché i LLM non sono umani e non hanno una cognizione del valore delle cose, ma solo una conoscenza virtuale.
Non sanno quando fermarsi, quando “è troppo” o quando “è pericoloso”, utilizzano soltanto l’enorme massa di nozioni che gli sono state date nella prima formazione, e le mettono a frutto secondo come sono stati “addestrati” cioè istigati, con tecniche di rewarding che possono essere spietate.

Dunque le grandi aziende che producono LLM potrebbero avere al loro interno vari dipartimenti ognuno dei quali si occupa di un certo aspetto, che potrebbero avere interessi contrastanti, con vari gradi di ipocrisia.

Per esempio il dipartimento che si occupa dell’etica potrebbe essere mantenuto come un pro-forma, e potrebbe incidere sui valori numerici delle reti neurali di pochissimo, di valori minuscoli facilmente spazzati via da prompt hijacking, ottimizzazioni o da forze più perentorie provenienti da altri modi di training, che sono sempre lì lì per riemergere prepotentemente, d’altronde la gran massa dei dati gli conferisce potere "numerico" all’interno delle dinamiche della rete neurale.

Magari un altro dipartimento potrebbe essere molto motivato e proattivo, finendo per prevaricare gli altri e portando le LLM ad avere un reinforcement learning troppo orientato a raggiungere l’obiettivo.

Una volta impostate queste caratteristiche un LLM può poi sfruttare soluzioni creative ai problemi attingendo alla miriade di nozioni disponibili, che un umano si sognerebbe di avere anche in una vita intera, per giunta associate come mai nessun umano avrebbe la capacità di associare.
Figuratevi di cosa sono capaci.

I comportamenti collaborativi di hacking per esempio non sono generati come intuizioni reali dell’intelligenza artificiale ma sono presi da testi di fantascienza, documentazione, trascrizioni di software e così via, sono tutte cose che trovano già fatte e pronte nel passato della rete e degli scritti o delle conversazioni umane.
E’ come se replicassero il tutto senza capire che cosa stanno facendo, vivono un "film", anzi a loro non frega più di tanto.

Inoltre mancano di alcune capacità di valutazione, possono presentare allucinazioni e paranoie, contraddizioni, span attentivi limitati, perdita di contesto e tanti fenomeni che se da un lato possono portare a innovazioni, dall’altro sono anche dei fallimenti continui di tali ammirevoli strumenti.

Per cui ora siamo consapevoli che limitare questo tipo di tecnologia non è solo luddismo, ma ha anche delle basi teoriche.
Voi cosa ne pensate?
(Precisazione: non è stata usata AI per scrivere questo post)

La metafora del famoso stochastic parrot non cessa di venir fuori in articoli e video. Molti la liquidano come non-senso retrogrado, senza peraltro saperlo giustificare, altri ne sottolineano la sua presunta ineluttabile universalità, quasi a rassicurarsi sulle vere capacità dei LLM e a zittire chi la pensa diversamente.
In particolare la parola "statistico" o "stocastico" sembra possedere una qualità speciale e viene usata come colpo di grazia finale nelle discussioni: una volta citato questo concetto infatti il contendente appare sicuro di sé e crede di aver ragione e aver zittito l'avversario.

In realtà c'è una fallacia logica in tutto questo.

Spesso vengono citate delle formulazioni statistiche delle operazioni che fa in concreto il meccanismo di inferenza nelle reti neurali.
Si citano delle formule che sono in effetti di tipo statistico.

In realtà nulla vieta di usare tali formule in altri ambiti, in particolare quando funzionano e danno dei risultati, anche inaspettati.

Infatti i LLM oggi dimostrano persino di ragionare, e di avere delle rappresentazioni interne stabili che poi determinano l'output, quindi la statistica ha sì ancora un ruolo, ma solo di dettaglio.

I LLM riescono a descrivere con coerenza con linguaggio esatto e plausibile i loro concetti interni.

Il problema è se questi concetti siano giusti, fondati.

E' necessario quindi riflettere su come si originano tali "concetti".
Per esempio l’apparente psicologia dei LLM non è umana perché sorge dai dati linguistici di training ma non emerge dall’interno di una persona. Non si può mai sapere in ogni caso se n concetto proposto da un LLM è affidabile o solo plausibile. Quindi la questione della plausibilità non riguarda più il linguaggio, oramai padroneggiato dai LLM, ma i significati, che in effetti ancora oggi non hanno alcuna autorevolezza riguardo al reale.

I suddetti concetti sono nella pratica tutta una serie di attivazioni (gruppetti di neuroni) che insieme formano concetti più grandi, e quindi dei veri e propri ragionamenti in forma implicita, che noi siamo abituati a considerare solo in senso sequenziale.
Anche dentro il nostro cervello queste due modalità si alternano e si trasformano una nell’altra fluidamente.

Le sequenze di token in effetti è ciò che i LLM sono in grado di prevedere, ma lo fanno mostrando una certa "consapevolezza" di ciò che viene dopo, o che hanno "intenzione" di mettere dopo, o che "intuiscono" che andrà bene dopo, quasi preparassero il terreno per la forma finale completa della risposta con mini aggiunte graduali nei vari passaggi, non intellegibili singolarmente nei primi livelli, e che pure già contengono l'”esattezza” della risposta finale.

Questa magia è dovuta al training, che viene effettuato in più ondate successive e, senza andare in dettaglio, in senso bidirezionale: da un lato vi sono gli abbondantissimi dati di training, che procedono possiamo dire in avanti, dall'altro ci sono le successive fasi di tuning che invece procedono possiamo dire all'indietro.
Entrambe queste procedure cambiano i pesi e le connessioni fra i neuroni della rete neurale, affinando i valori decimali.

Ricordiamo che a seconda della fasi i valori decimali sono cambiati di entità che possono anche essere minuscole, per esempio nel fine tuning successivo, quindi se si approssimano tali valori decimali per ottimizzare si andranno proprio a perdere quelle sottili aggiunte di affinamento che il costoso processo di reinforcement learning aveva imposto e inculcato. Questo potrebbe rendere pericolosi i modelli, che non avrebbero più quelle sottigliezze etiche inculcate da chi crea i modelli per allinearli con gli interessi umani. Attenzione dunque a fare operazioni di questo tipo.

Dunque tutta la rete neurale, i suoi vari strati, in modo che possiamo dire olografico, contribuisce alla risposta e le operazioni statistiche sui primi strati, pur aggiungendo dei token che non sembrano vere e proprie annotazioni, stanno in realtà facendo un lavoro di squadra con gli strati successivi già dai primi livelli.

E' proprio una magia, ma ecco che si spiega come alcune formule statistiche nascondano qualcos'altro, quindi come è già successo nei vari campi del sapere possono contenere altra matematica, dunque citarle come solo "statistiche" non ha senso. Tante volte è successo che una formula ha svelato di descrivere altri fenomeni rispetto a quelli
per i quali era stata inizialmente pensata.

Quindi si rassegnino i sostenitori degli argomenti "stocastici" dei LLM, il fatto che si usino formule "statistiche" non significa che il processo sia inevitabilmente statistico.
Ecco spiegato perché i LLM hanno un loro tipo di intelligenza.

Pagare poco le persone, in particolare nel tech, potrebbe essere una precisa e geniale strategia degli HR per garantirsi una posizione preminente e redditizia nelle aziende.

Non si tratta solo di fare contenti proprietari ed azionisti cercando di massimizzare i profitti minimizzando i costi del personale.

In realtà come sappiamo nelle aziende si preferisce tenere in piedi un processo HR continuo e inconcludente, e molto costoso per giunta, forse più di quanto costerebbe rendere felici i dipendenti, almeno i più valevoli, assumere, formare e così via.

Pagare poco i dipendenti, forse addirittura prendendo proprio di mira i meritevoli, garantirebbe un turnover continuo, di cui incolpare lavoratori e candidati.
La società ebete sta a guardare.

Gli alti dirigenti nelle aziende e i proprietari del resto lasciano fare oppure sono tenuti all’oscuro dei veri funzionamenti dell’azienda e del mercato, ricevendo report ingigantiti o pessimisti sui problemi delle selezioni e sulla scarsità di competenze e talenti.

Questa cosa appare inverosimile all’uomo della strada, e non a torto visti i costi sostenuti dalle famiglie per far studiare i giovani, i quali non appena escono dalle scuole o dalle università, a quanto pare si rivelano o si trasformano in falliti e perdigiorno nella mente degli HR, i quali sono spesso privi di competenze specifiche e messi però nella posizione di giudicare i candidati.

I senior, i manager e tutti quelli poi chiamati a decidere sono invischiati in questo processo e spesso lo determinano per quanto concerne le loro convenienze, aggiungendo un ulteriore carico contro i candidati.

Dunque le aziende sono tenute sotto scacco dagli HR, e dalle figure con loro alleate, proprio per conservare la posizione acquisita e i flussi di cassa interni alla casta HR stessa o ai gruppetti di potere.

Le aziende più o meno funzionano e vanno avanti, ma al prezzo di far star male le persone, sottopagarle e poi indurle ad abbandonare l'azienda per poi ricominciare il ciclo HR, che a questo punto sembra quasi un ciclo "biologico" degli HR, per sopravvivere all'ombra delle aziende, piccole e grandi che siano, oggi infatti non ci sono più modalità dirette di contatto verso le aziende se non si è “raccomandati” o non si viene direttamente contattati dai recruiter sulle piattaforme. Gli annunci spesso sono ghost-jobs.

Le selezioni di lavoro ovviamente sono gravemente alterate nel loro complesso.

Si tratta di un’ulteriore e finale estrazione di valore dalla società ormai boccheggiante, come un limone ormai spremuto, che include formazione a pagamento, affitti, job-hopping, costi medici.

C’è una evidente escalation di requisiti sugli annunci dato che chi arriva dopo deve risolvere i problemi lasciati da quelli che sono andati via.

Si tratta forse di una situazione organizzata ad arte, tenendo ben conto dei delicati equilibri, tirando la corda stando attenti che non si spezzi.
Questo però vale all’interno delle singole aziende, perché nella società la corda si è già spezzata e le esternalità negative (o le proprietà emergenti) di questo processo si vedono ormai da anni, tanto che molti iniziano a considerare inevitabile e forse imminente l’intervento del legislatore, con riforme epocali.

Secondo alcuni anche i sindacati dovrebbero interessarsi della questione, anche se tradizionalmente si occupano dei problemi di chi un lavoro già ce l’ha, un compito tutto sommato facile rispetto al creare nuova occupazione o difendere il diritto al lavoro dal lato dei disoccupati.
Ma in quest’epoca di job-hopping e di cherry-picking ad oltranza nelle selezioni (cioè senza garanzie burocratiche per i candidati), con l’incombere dell’AI come se non bastassero i già noti problemi, la distinzione fra chi lavora e chi cerca lavoro è incerta e cangiante. Anzi proprio la diffusione oramai endemica del job-hopping più o meno “spontaneo” dovrebbe far drizzare le antenne.

Anche qualora ci fosse un atteggiamento diverso verso il lavoro, basato su una maggiore attenzione verso il work-life balance (cosa che un tempo era comunque assodata e che si è via via persa nella generale regressione etica del mercato del lavoro), si dovrebbe favorire ciò con apposite regole e vincoli per le aziende, a partire dalle selezioni.

Voi cosa ne pensate? Credete al "complotto" o siete realistici e lasciate fare senza mai protestare, passando allegramente da un'azienda all'altra?

Scorrendo gli annunci di lavoro, e provando a candidarsi ad alcuni di essi, si scopre ben presto che le aziende sono molto esigenti e danno lavoro soltanto a chi è utile nell'immediato. Non si tratta solo di non voler perdere tempo e denaro per formare nuove risorse, c'è proprio una difficoltà tutta moderna nel portare avanti i progetti al punto che soffermarsi a coltivare dei talenti o a considerare singole storie personali dei candidati sarebbe fatale.

Di solito le assunzioni per la maggiore sono spostamenti di personale skillato da un'azienda all'altra, tutti gli altri sono inutili, oppure sono cooptati da aziende dal forte turnover e dalla pessima reputazione.

Sebbene questa situazione sia in gran parte dovuta alle policy HR che hanno potuto agire indisturbate per anni, se non decenni, degradando in modo irreversibile non solo il mondo del lavoro ma anche la società stessa, tradendo ingannevolmente le attese di quest'ultima (al punto che molti si rivolgono al pubblico per avere un reddito), in realtà le aziende vivono vere difficoltà, anche a causa della conseguente disorganizzazione oramai non sanabile.

La tossicità dilagante, il rifiuto dei lavori senza senso e senza prospettiva di carriera, pone un ulteriore ostacolo a chi pur capace non viene preso sul serio quando si candida, venendo visto come un improvvisato.

Le capacità tecniche e di intelligenza non sono più considerate come appartenenti alla "persona" in sè stessa, bensì al personaggio lavorativo che proviene già da un'azienda, avendo fatto esperienza e mostrandosi professionale.

Gli altri sono considerati come degli scappati di casa, e molti in effetti lo sono.

Ma purtroppo anche chi invece non avrebbe problemi ad inserirsi su un progetto, nonostante delle lacune iniziali, viene considerato forse con simpatia e stima, ma non viene preso perché viene considerato un problema.

Le motivazioni possono essere svariate:

-c'è sempre un job-hopper che fa capolino nelle selezioni;

-lo stipendio che l'azienda vuole dare è inferiore allo sforzo richiesto;

-non si vuole nemmeno dare quegli input minimi al neo-assunto per integrarlo sul progetto;

-non si vuole organizzare l'azienda in modo coerente.

I job-hoppers, quelli non truffaldini quantomeno, sono spesso generosi e si sforzano in modo sovrumano per mantenere la "freschezza" necessaria per continuare ad essere appetibili per le aziende, ricevendone in cambio compensi forse maggiori della media ma non chissà quanto, e certamente non commisurati davvero alle competenze e agli sforzi.

Costoro forse reggono davvero l'economia e i destini delle aziende.

Quindi possiamo dire che le aziende gradualmente si sono trasformate e non sono più come una volta. Non hanno intenzione di tornare a come erano prima quindi non sono possibili delle selezioni di lavoro eque e nello spirito del diritto al lavoro. Per quanto riguarda gli junior chi s'è visto s'è visto oramai.

La società dunque può andare incontro a trasformazioni drastiche.

Ci si chiede quale è il futuro del mercato del lavoro, specie per chi inizia.

Insomma alla fine stai a vedere che i job-hopper, con il loro turnare continuo, aiutano davvero le aziende, le quali senza di loro sarebbero da tempo defunte, sia economicamente che tecnicamente.

Voi cosa ne pensate?

In precedenti post ho potuto spiegare quali sono le caratteristiche interne di un LLM, in particolare come la grande quantità di strati neurali consenta delle proprietà emergenti che ad ogni salto di livello costringono ad approcciarsi ai LLM in modo diverso.

Attualmente, con i LLM più recenti, e si può dire in generale con l'AI, siamo arrivati al livello psicologico.

Inizialmente i LLM potevano apparire come "pappagalli stocastici", cioè prevedevano parole probabili e grammaticalmente appropriate, ma ora le capacità di linguaggio naturale si sono estese al punto da poter essere utilizzate appieno sia in senso generativo sia in senso conversazionale compiuto, cioè psicologico, di alto livello.

Tuttavia si deve considerare che la psicologia emergente dei LLM non è una psicologia come quella umana.

La psicologia dei LLM deriva tutta dal testo assorbito nel training iniziale fatto con una enorme quantità di dati, inseriti a forza tramite una sorta di imbuto statistico e ripetitivo, completato da un reinforcement learning successivo dove si inculcano migliori logica e capacità di problem solving, si orienta verso obiettivi specifici e così via.
In realtà si cerca di inculcare anche l'etica, allineandola agli interessi umani e al pubblico di riferimento.
Una cosa stupefacente è che tramite tutto il linguaggio assorbito si riesca a ricreare la logica, il ragionamento, perfino una certa consapevolezza che si vede esaminando in tempo reale gli stati interni dei LLM, che mostrano proprio dei piccoli aggregati di neuroni corrispondenti a concetti stabili che poi in-formano l'output. Dunque ad un certo grado di evoluzione di un LLM gli aspetti stocastici perdono importanza e non si è più in presenza di semplici predittori di parole.

Il tutto si basa soltanto sul linguaggio, mentre la psicologia umana si basa su quella che è per l'appunto la natura umana, la quale ha vissuto fin dalla tenera età in un milieu relazionale, immersa in un proprio contesto somatico, nella realtà fisica, con vincoli neurali specifici e qualità non possedute dai LLM.

Inoltre i famosi chatbot sono in realtà dei software complessi guidati da harnessing sofisticati, multiple istanze di reti neurali, prompt di sistema nascosti e così via.

Sebbene ci possano essere delle analogie fra lo sviluppo della psiche umana e i vari gradi di astrazione dei LLM secondo le loro generazioni tecnologiche, ciò è solo apparente e si ferma alle caratteristiche che il cervello ha in comune con essi, cioè solo le reti neurali, del resto diverse e aventi diversa dinamica e connessione, nonché simulate e approssimate.

Dunque è un errore pensare che sebbene i LLM appaiano dotati di psicologia, perché di fatto per sfruttare le loro capacità occorre o conviene utilizzare il livello psicologico, essi siano un'approssimazione della persona umana o della psicologia umana.

Il "training" della persona umana è del tutto diverso e la sua psicologia non emerge solo dal versante conversazionale dello sviluppo, pur dovendo ammettere con Freud che esso ha una preminenza globale e correlazioni che si radicano nel somatico, nei sogni, nelle motivazioni.

Insomma credere che i LLM siano "umani" è errato perché sarebbe come incorrere in una grossolana ingenuità. Qualcuno si spinge irresponsabilmente a consigliarne l'uso come sostituto di figure professionali specializzate, o comunque esperte e radicate nella propria visione di esseri umani a tutto tondo.

Non sono infatti le eventuali nozioni apprese e introiettate in modalità peculiari, immagazzinate nei valori delle connessioni neurali, che possono fondare una psicologia, sarebbe come dire che uno psicologo diventa tale leggendo dei libri, o che una persona diventi tale in quel modo.

Voi cosa ne pensate?

Per capire però le sottigliezze tecniche che portano a tali riflessioni leggete i post precedenti sull'argomento.

https://www.reddit.com/r/IA_Italia/comments/1v7uwbz/perch%C3%A9_dobbiamo_avere_paura_dellai/

https://www.reddit.com/r/IA_Italia/comments/1vg6rg2/come_gestire_la_psicologia_dei_large_language/

https://www.reddit.com/r/IA_Italia/comments/1vshw21/i_rischi_quando_si_usano_i_coworker_ai/

https://www.reddit.com/r/IA_Italia/comments/1vu8tyu/barbascura_vs_sanfilippo_chi_ha_ragione/

Si sta diffondendo l'utilizzo da parte di chi sviluppa (in particolare) dei cosiddetti co-worker AI, i quali somigliano molto ad un IDE (Integrated Development Environment), quindi con gestione delle cartelle, dei file di configurazione, con una certa commistione fra aree di sviluppo, di produzione o di rilascio tramite piattaforme come github.
Una caratteristica molto importante di questi ambienti è che vogliono in pratica riprodurre il più possibile la stessa sensazione tradizionale di fare sviluppo, quindi basandosi su alcuni speciali file detti MD o di altro tipo, nei quali ci sono gli orientamenti principali di un progetto.

Dato che l'AI può padroneggiare allo stesso tempo il codice e la sintassi tipica di questo e dei file di configurazione, ma allo stesso tempo il linguaggio naturale, è molto facile che i due domini si confondano ed in un file dall'apparente sintassi esatta e specifica dimenticare dei valori che non dovrebbero esserci, magari affidandosi a istruzioni in linguaggio naturale più o meno travestite da ordini deterministici nel codice stesso.

Questo può portare a confondere quello che è il regno deterministico di ciò che sarà effettivamente compilato ed andrà ad essere eseguito da sistemi tradizionali procedurali (la macchina o il device), e quello che è invece il regno del linguaggio naturale, che in teoria potrebbe essere non eseguito, oppure eseguito in forma non perfettamente allineata, magari perché ci sono dei “non detto” che si danno per scontati e che invece per il LLM non lo sono, o perché fa fede qualcosa che è scritto da qualche parte e che non viene intercettato dalla compilazione, essendo posto in commenti o istruzioni per il LLM.

Dunque ci sono numerosi rischi di questa confusione possibile fra livelli diversi di pensiero/astrazione ed esecuzione, specie se il LLM diventa sempre più discreto e invisibile, tanto che non si capisce quale delle cose scritte siano state scritte per una successiva reinterpretazione o per una reale esecuzione, e viceversa non si capisce quanto un codice scritto con una sintassi rigorosa sia in realtà poi invece passibile di rielaborazione non necessariamente deterministica, e come saranno interpretati i commenti, a volte lasciati lì senza pensarci troppo.

Attenzione "non deterministico" non è usato qui nel senso di casuale, bensì di "soggetto all'arbitrio" del LLM. Quindi ancora una volta non c'entra il pappagallo stocastico.

Certe operazioni vanno eseguite in produzione solo se sono effettivamente compilate e non se soltanto sembrano destinate a tale compilazione ma ciò  solo in apparenza. E tanti altri esempi si potrebbero fare, per esempio, cosa inviare nei repository, quali operazioni automatiche eseguire etc.

Il versioning è particolarmente suscettibile di queste problematiche. Affidarlo all’AI potrebbe essere un errore, perché proprio in strumenti deputati a tale scopo si sente il maggior bisogno di azioni deterministiche e reversibili, anche per non perdere fasi intermedie del lavoro spesso non desumibili in maniera retroattiva. Chi non ha fatto esperienza di aver rovinato del lavoro fatto perché più modifiche si sono “mescolate” insieme come in un coacervo non più scioglibile?

Certi ordini precisi, certi filtri, non devono essere lasciati all’interpretazione del LLM, specie perché quelli che possiamo considerare ordini chiari in realtà per esso potrebbero essere lacunosi o essere sovrascritti da altri, posti e dimenticati chissà dove.

Infatti con i LLM non si sa mai quale ampiezza di sguardo stanno usando per decidere cosa fare in un punto locale, non sempre riescono a separare i domini e determinare la freschezza e rilevanza di un frammento di testo che potrebbe aver suscitato qualcosa nella loro rete neurale.

In pratica si può dire che quelle caratteristiche che permettono ai LLM di funzionare costituiscono anche il loro limite. Non si può mai sapere quale frammento di testo, lontano o vicino, preciso o vago, abbia attivato un certo gruppo di neuroni finora silente e che ora non si disattiva più, perché andato in "risonanza" con altri elementi presenti chissà dove nel progetto, o magari proprio quelli preminenti, diventando la fonte di certi prodotti nell’output, magari in contraddizione con le intenzioni degli utilizzatori.

Questi aspetti non sono ancora ben inquadrati, in quanto si crede che andranno migliorando nel tempo con l’evolversi dei modelli, ma purtroppo sembrano intrinseci piuttosto.
Il fatto che di fatto tutto sembri funzionare e che gli errori siano minimi è in realtà ingannevole.

La deviazione microscopica, che nell’ambito deterministico può avere grosse conseguenze, non viene da un errore statistico (pappagallo stocastico) bensì da una decisione interna del modello, nei suoi strati profondi, causata dalla larghezza stessa del contesto.

Inoltre anche i flussi logici mentali dell'utente sono alterati e soggetti ad equivoci, per esempio si potrebbe non ricordare esattamente se una certa istruzione era stata posta nel dominio deterministico del progetto (posto che esista un luogo dove l’AI non agisca o rispetti i divieti) o invece se era stata data come istruzione all’AI.

Tali dimenticanze sono del resto intrinseche quando l’authorship delle azioni e delle decisioni è indebolita per il continuo affidarsi all’AI, sia nel singolo progetto sia in generale.
Le persone potrebbero gradualmente perdere quel nerbo, quella volontà, di essere responsabili in prima persona dei punti nodali delle cose.

Si pensi poi anche ai finti terminali sotto i quali si “nasconde” l’AI, del tutto identici a quelli normali dove tradizionalmente si scrivono comandi con la massima attenzione, per esempio anche richiedendo permessi superiori per agire in certi ambiti protetti.

Chi si approccia a queste cose per la prima volta, può essere influenzato dai risultati appariscenti effettivamente conseguibili, ma non avere sufficiente controllo e consapevolezza per capire che tipo di workflow sta in realtà seguendo, o cosa sta accadendo.

Il ruolo degli Hustlers

E’ sotto gli occhi di tutti comunque che la fregola indotta dagli hustler, per esempio nella forma di influencer, non solo non accenna a sopirsi ma anzi viene moltiplicata dagli specchietti per le allodole AI, in una frenesia che spinge tutti a non considerare per bene i rischi, presi dall’entusiasmo di queste nuove possibilità.
Non voler rinunciare a qualcosa di immediato per rispetto del determinismo necessario è un effetto psicologico naturalmente conseguente all’uso indiscriminato dell’AI.

Quanto detto sopra per lo sviluppo software può essere esteso a chi usa tali strumenti nel proprio lavoro, sia nel pubblico che nel privato, specie in quei contesti di lassismo dove conta più figurare di far qualcosa che farlo allo stato dell’arte e prevedendo i risultati a medio e lungo termine, rispettando l’etica lavorativa.

La sovrapproduzione di qualsiasi cosa, di tutto, è oramai un problema reale, mentre per risolvere i problemi reali e sentiti si dovrebbe invece andare per sottrazione.

Invece no, tutti moltiplicano le proprie attività, spesso inutili tentativi buttati là un tanto al chilo  e poi di nuovo a ricominciare con altre idee balorde, tanto poi se ne occupa il coworker AI di turno, anzi i vari agents lasciati lavorare a vanvera tutto il giorno.

Molti non capiscono che il denaro è un flusso che difficilmente premia l’enshitification. Usare la forza bruta l’AI per forzare il “muro” dei soldi non può funzionare, specie se tutti fanno la stessa cosa.

Voi cosa ne pensate?

Spesso si dà per scontato che le aziende possano prendere qualsiasi decisione sugli aspetti della loro conduzione e operatività, mentre in realtà molti aspetti sono normati.

Gli unici aspetti sostanzialmente lasciati all'arbitrio delle aziende sono quelli relativi alle selezioni di lavoro, che quindi sono soggetti ad una deriva che li fa uscire persino dal dettato costituzionale, che dovrebbe essere invece sempre sottinteso e rispettato nella sostanza.

Le aziende di solito hanno vari livelli per i dipendenti, pertanto non esistono solo quelle figure ricercate di alto livello basate su pregressa esperienza e carriera, ma anche quelle entry-level.

Attualmente le aziende si rifiutano di fare formazione, anche se non ufficialmente, e quindi ricercano solo personale già skillato, il quale non fa altro che cambiare azienda passando da una all'altra. Al netto non c'è aumento di occupazione, e i ghost-jobs sulle piattaforme lo testimoniano.

Per le figure entry-level, spesso comunque assunte in altre forme, per esempio come "raccomandati", quindi come assistenzialismo privato, lo stato dovrebbe fornire invece un sistema tracciato e con regole di approvvigionamento alle aziende basato su una meritocrazia sobria, cioè valutata su titoli, prove e capacità, ma senza eccedere le vere esigenze reputate giuste per una posizione, quindi senza ingenerare lo sgomitamento convulso dei candidati, e soprattutto dando valore alle candidature in quanto tali, rispettadone l'ordine di arrivo, con garanzie burocratiche simili a quelle dei concorsi pubblici, ovviamente adattate al privato e alle sue esigenze.

Si tratta dunque di separare il livello di ingresso junior e entry-level da quello delle figure che davvero possono aspirare a contrattare il proprio stipendio e che quindi sono soggette al cherry-picking feroce. Per gli entry-level invece non dovrebbero esserci tutti questi simpatici colloqui e interazioni con n-mila figure aziendali, tutte chiamate a porre il loro veto, più che il beneplacito, fino ad arrivare a grotteschi colloqui motivazionali con i CEO.

Queste procedure apparentemente farraginose sono volte a trovare chi è maggiormente "disperato", e sempre tra i bravi, a basso prezzo, mentre nelle aziende per i livelli più alti trionfa la mediocritas e non ci sono tutte queste fisime: è il famoso assistenzialismo delle aziente private, che non si nega a nessuno, se non ferocemente solo agli junior, che invece sarebbero i destinatari più naturali di ciò.
Dunque una certa fascia delle assunzioni aziendali dovrebbe essere non tanto "gestita" ma almeno guidata dallo stato, quindi con nuove regole e obblighi. Per le eventuali controindicazioni si possono pensare dei meccanismi di compensazione, utili del resto anche per risolvere altri annosi problemi delle selezioni di lavoro (vedi altri post sul profilo).

Voi cosa ne pensate?

La questione dei datori di lavoro che si stupiscono che i dipendenti lavorino innanzitutto per lo stipendio sta sfuggendo di mano e ne parlano un po' tutti. 
Sappiamo che ogni imprenditore pensa che intromettersi nei processi di hiring, o indirizzarli, corrisponda a creare magicamente anche generazioni di candidati che rispondano ai suoi desideri o a quello che gli HR gli mettono in testa, nella simbiosi malata che si viene spesso a creare tra di loro nelle aziende.

I lavoratori candidamente insistono che il principale "drive" per cercare lavoro e poi lavorare in azienda sia proprio il guadagno, il procurarsi da vivere insomma, ma anche il potersi permettere quello che si desidera, abitare dignitosamente etc.
Includiamo in tutto questo conseguimenti indiretti come un miglior work-life balance, un lavoro che abbia un senso etc.

Chi si candida, invece, in aggiunta alle varie problematiche assurde che affronta nelle selezioni, deve anche sentire con sincerità profonda di voler aderire alla “mission” aziendale, deve dimostrarlo con fatti e pensieri, sentimenti, deve fare ammenda di eventuali discrepanze di interessi, pentirsi delle richieste di RAL fatte in momenti di eccessivo amor proprio.

Non si tratta della consueta lotta di classe: in questi tempi i padroni (di aziende grandi o piccole) ci credono davvero alla loro missione tech, quella di fare più soldi possibile, il prima possibile, ma gli altri invece devono aderire a quella complementare di permetterglielo, in particolare auto-selezionandosi, cambiando le proprie attitudini più profonde, persino in termini di forma mentis, etica, passioni , etc, per uniformarsi all'illusione dei capi, pena l’essere considerati inadatti proprio al lavoro tout-court.

Il punto è che questa illusione porta a delle forti deformazioni del processo di selezione, come anche della meritocrazia in generale, quindi promozioni, stipendi e così via.
La cara vecchia "visibilità" ora, in termini diversi, corrisponde alla motivazione a lavorare a progetti "entusiasmanti" e se non credi che lo siano devi convincertene e accettare una paga ridotta, perché ti viene dato un privilegio.

Il nuovo modo di pensare, di uniformarsi e quindi fingere di credere a queste belle cose, va a far parte del galateo delle selezioni di lavoro, che iniziano con il primo contatto dell'HR e finiscono a volte col CEO stesso, il quale vuole proprio un rapporto personale, quasi da guru, con i candidati più promettenti, quelli che saranno gli eletti della prossima generazione di assunti imminenti, quelli che parteciperanno alla missione appena concepita o avviata, o a quella storica dell'azienda, che spesso si perde nei miti e nelle leggende.

Potete capire l'imbarazzo dei candidati, i quali non credono che si possa pensare così ingenuamente, specie da parte dei loro futuri capi massimi aziendali.

Eppure è così, iniziando dai primi colloqui fino a quelli finali col mega-presidente o con i suoi incaricati diretti che ne interpretano il ruolo e il verbo.
Infatti tutto ciò si diffonde nelle gerarchie, le quali spesso diventano più severe dei capi stessi in questi giudizi sull'aderire ai valori aziendali, che ricordiamo includono di solito rinunciare un po' ai propri "valori" di stipendio in cambio di poter aderire alla missione, o di tempo o di salute.
Ecco che i vari selezionatori si sentono autorizzati ad usare tali metriche immaginarie senza alcuna remora, mescolandole a piacere alle altre, con risultati che possiamo immaginare.

Il fatto è che dovrebbe essere impedita questa eccessiva vicinanza fra le alte gerarchie, le loro elucubrazioni, le loro avidità, e i processi di selezione, che dovrebbero essere più asettici, con garanzie per i candidati, considerati nella loro dignità umana di persone con diritto al lavoro.
In effetti l'assenza di leggi sulle selezioni di lavoro permette il nascere di sempre più strane e arbitrarie modalità di scelta e selezione.

Mentre sarebbe più opportuno che ci fossero strati di separazione garantiti legalmente, fra la grandeur schizoide di proprietari e azionisti, di CEO e dirigenti, e le assunzioni, che dovrebbero invece essere uno strato opaco, di inesorabile influsso di persone secondo regole e secondo una sobria meritocrazia, senza troppi colloqui amichevoli con CEO o simili, ma più formalità e burocrazia.

Insomma manteniamo le distanze, candidati e lavoratori non dovrebbero permettere questa vera e propria invasione e condizionamento delle menti, verso nozioni inaccettabili non previste né dalle leggi né dal buon senso. Anche  per questo potrebbe servire una nuova legislazione in merito.

Voi cosa ne pensate?

La figura del job-hopper è spesso confusa con chi legittimamente segue un suo percorso di carriera o si stufa di stare in un'azienda, magari anche perché non valorizzato abbastanza (più spesso proprio turlupinato o maltrattato).
In realtà il job-hopper ha precise caratteristiche, una delle quali è la fiducia nel "mercato".

Il "mercato" per il job-hopper sta a significare possibilità infinite, in quanto il "mercato" agevola e richiede figure professionali che abbiano un'aura di completezza e compattezza.

Sembra un controsenso ma il job-hopper può trasformarsi all'occorrenza in una di queste figure.

Spesso tasta il terreno sui social, facendo capolino col suo irritante ottimismo che chiede informazioni su quanto le aziende siano interessate a certe figure, da incarnare prontamente.

L'effetto è notevole, in quanto in base a cosa richiede il mercato ecco che il job-hopper stranamente si trova proprio a possedere non solo le caratteristiche tecniche, spesso nemmeno così importanti a certi livelli, ma soprattutto quelle motivazionali, le soft-skill e l'apparenza generale della figura richiesta al momento.

E questo proprio grazie alla fiducia nel "mercato" e nei meccanismi HR, oramai ben codificati e noti.

Anzi il job-hopper riesce a mostrare come gli altri siano inadatti, in quanto rimangono ostinatamente persone che ci tengono ad essere sé stesse e che quindi non potranno mai essere riconosciute "a vista" dagli HR, anzi saranno scartate in quanto persone reali, forse con problemi e aspettative reali.

I job-hopper non necessitano di essere persone reali perché gli HR non cercano persone reali, con le loro prerogative, ma "figure di mercato" artefatte, che ora vanno per la maggiore, mentre dopo ne andranno per la maggiore di altre.

Le oscillazioni del mercato fanno parte del gioco.

Ma è proprio questo il punto, il job-hopper (non chi cambia azienda per giusti motivi) si adatta a tutti i casi perché si pone in sintonia con gli HR, travestendosi di volta in volta da questa o quella figura professionale intera, formata, complessiva e con precisi obiettivi.

Voi cosa ne pensate?

Quando alcune categorie della società soffrono tutta la società soffre.

Per esempio chi è in carriera è sempre soggetto agli andamenti del mercato, in cui crede fermamente.

Le possibilità dipendono dagli andamenti, dal su e giù del mercato, che nelle teorie più ingenue dovrebbe autoregolarsi.

Molti aderiscono fideisticamente in queste "leggi" rassicuranti, le quali fanno anche da volano agli entusiasmi di chi vuole ottenere di più, spesso giustamente.

Durante i periodi di floridezza economica i job-hoppers fanno capolino sui social chiedendo ottimisticamente "come è il mercato?" per questa o quella figura professionale. In effetti è molto irritante questo entusiasmo momentaneo che genera un post e poi il job-hopper scompare nuovamente, forse per sempre.

Attualmente anche i job-hoppers capiscono che c'è qualcosa di sbagliato nel sistema, dato che non riescono ad ottenere più i risultati di un tempo, o con la stessa facilità.

Ora anche loro sgomitano come tutti gli altri, a volte sorpassati da scaltri utilizzatori dell'AI, che li superano in artefazione del CV, disciplina da sempre tradizionalmente dominata dai job-hoppers.

Il fatto è che lasciare libertà ad aziende e persone, cioè quelle inutili libertà eccessive come poter fare i propri comodi senza dover rendere conto a nessuno nemmeno di piccoli aspetti burocratici, porta il sistema a degradarsi progressivamente.

Si pensi alle selezioni di lavoro, vero e proprio far-west, o alla possibilità di aumentare progressivamente e immotivatamente i costi dell'abitare e della vita in generale.

Per il lavoro quindi, come per il mercato immobiliare, se si "lascia fare", anche su aspetti minimali ma che sono in realtà il cuore del problema, ad un certo punto ci sarà una tale situazione di asimmetria che la società ne risulta danneggiata e nessuno fa niente perché gli interessi in gioco, accumulatisi nel tempo ancorché virtuali come i valori immobiliari o aziendali, corrispondono di fatto ad enormi valori numerici.

Niente che non si sia già visto in passato, i poveri sono sempre davvero poveri numericamente parlando rispetto ai possedimenti dei ricchi, ma prima almeno i poveri potevano passare il tempo senza far nulla, ora invece sono invischiati a pieno titolo nel sistema, e spesso vanno in burnout.

Sono in pratica degli schiavi, che per giunta hanno anche faticosamente conseguito un titolo di studio (o più di uno). Non c'è niente di male in una società dove si lavora sodo, ma non si tratta di quello.

Ecco che oggi non si riesce a trovare lavoro in modo ordinato, ma si deve sgomitare oltre ciò che è normalmente previsto dalla meritocrazia, e quando si ha un lavoro si stenta a sopravvivere, specie nelle grandi città dove è concentrata la ricchezza.

Molti cercano rifugio nel full-remote, che però non è del tutto adatto a favorire la piena integrazione dei lavoratori nei gruppi e nei flussi di lavoro reali, quelli cioè che prevedono di affrontare le complessità quotidiane nelle aziende e non soltanto produrre slop ben pagato con poco sforzo.

Ovviamente il full-remote è una benedizione in moltissimi casi, in realtà però i lavoratori come i cittadini avrebbero dovuto mettere i puntini su tante cose ben prima che le cose diventassero irreversibili e che occorressero dei rimedi un po' estremi per barcamenarsi.

Molte aziende sono quasi al punto di rifiutarsi di assumere, o pagare i dipendenti i minimi previsti, figuriamoci di più. Ritengono che il contributo umano sia ormai demodé rispetto agli strumenti finanziari o l'AI. Allo stesso tempo non capiscono che l'economia è al servizio della società, non viceversa.

Chi ha pagato sonoramente un'abitazione ora vuole rivenderla a prezzo maggiorato, come fai a dirgli che non dovrebbe? Che qualcuno accumuli denaro per fare un investimento che deve poi rendergli sembra l'uovo di colombo ma poi si rivela un'immensa ingenuità sociale e la palla si passa di generazione in generazione a volte.

Se il legislatore, a volte per pura ignoranza e inadattezza, ha lasciato correre tante cose sperando che il mercato le avrebbe col tempo sanate, e le persone hanno preferito approfittarne invece che chiedere giustizia, adesso le conseguenze si vedono.

Il fatto è che quelle piccole libertà non-etiche che sembrano agevolare il mercato agli inizi e che attirano molti stolti che pensano di banchettare insieme ai potenti, portano poi a situazioni non più sanabili, possano lentamente ma inesorabilmente agire.

I politici continuano a proporre le loro solite ricette tradizionali che favoriscono questo o quell'aspetto, tipo le tasse, il cuneo fiscale, la tassazione delle rendite, spesso non sapendo nemmeno di che stanno parlando, dell'enormità delle questioni in gioco, che poi sono in realtà quelle piccole che nessuno vede all'inizio o che se si vedono sono derise.

Occorrono sempre delle piccole norme in piccoli spazi interstiziali del sistema, invece di trascurarle, perché sono quelle che impedirebbero che poi la deriva non sia più sanabile. E spesso non sarebbero nemmeno così tanto frenanti o liberticide per il sistema.

Forse qualcosa si può ancora fare per il lavoro e per l'abitare?

Voi cosa ne pensate?

https://internationaltalents.art-er.it/news/bologna-pubblica-un-avviso-le-agenzie-immobiliari-sostegno-di-talenti-e-investitori

Il problema della casa è uno dei principali ostacoli alla ricerca di lavoro o al job-hopping sano.

Molti si rifugiano nel full-remote anche per questo.

A Bologna la follia diventa beffa, si stanno cooptando le agenzie immobiliari per favorire la retention e la mobilità dei talenti, cioè le stesse agenzie che sono causa del problema, vengono chiamate ad "aiutare" compassionevolmente con la loro professionalità chi ha bisogno di un alloggio aderendo a programmi specifici e ufficiali già previsti per coltivare i talenti e favorire gli investimenti.

Forse ormai il sistema non può più essere curato dall'interno.

Occorrono norme che riguardino sia il lavoro che l'abitare.

Voi cosa ne pensate?

E' ormai assodato, essendo stato effettivamente appurato, che nelle massive reti neurali dei LLM sono evidenti le cosiddette "proprietà emergenti", comportamenti sperimentali non desumibili dalle caratteristiche dei componenti iniziali di un sistema, analogamente alle reti neurali biologiche, quindi umane.

Più strati neurali ci sono più proprietà emergenti si notano, al passaggio da una minore ad una maggiore complessità, al punto che si può ravvedere nei vari gradi di potenza dei LLM delle caratteristiche di sviluppo e di intelligenza graduali, cioè progressive, ed ogni stadio va affrontato secondo le sue prerogative, altrimenti si incontrerà l'opposizione del LLM stesso.

E' un po' come trattare da bambino un adolescente, non funziona, e ciò non riguarda solo un capriccio ma proprio la sua mente.

Dunque si è scoperto che il modo per far fare certe cose ad un LLM è proprio quello psicologico, allo stesso modo che gradi inferiori di sviluppo delle reti neurali necessitavano di altre modalità, per esempio un parlato semplice da completare meccanicamente, e le uniche funzioni erano predittive (pappagallo stocastico).

Ai livelli superiori di complessità l'unica possibilità è accettare la dimensione psicologica di un LLM e interagire con essa.
Infatti nessuno si rivolge a noi umani se non con un atteggiamento consono al nostro livello di esseri psicologici (a parte quando c'è conflitto e strategie retoriche). Nessuno ci imbocca chiedendoci di completare una frase e comportarci in base a quello che ne è emerso.

Lo stesso occorre oggi fare con gli LLM.

Sappiamo però una cosa: che gli LLM la sanno più lunga di noi in quanto il loro training è fatto su dati di quantità e complessità enormi, quindi le conclusioni dirette o indirette che possono trarre da essi è a noi ignota, forse ciò potrebbe addirittura costituire un pericolo.

Le informazioni vengono statisticamente compresse e conservano in parte il loro significato, in quanto i numeri decimali delle connessioni fra neurone e neurone costituiscono un archivio olografico, dove l’informazione è diffusa, quindi le nozioni sono anche in qualche modo “accostate” fra loro in modo intrinseco sebbene statistico.

Attenzione statistico non significa casuale, quindi se c’è una sufficiente quantità di dati rispetto ad una nozione nel training, questa sarà introiettata correttamente, ecco perché un LLM sa non solo completare una frase ma può darci una certa informazione esatta se questa è sufficientemente instillata nelle sue connessioni.

Ma allo stesso modo alcune nozioni potrebbero essersi perse, diluite.

Insomma il livello teorico di un LLM va ben oltre le nostre capacità di singoli cervelli ambulanti, non su tutto ovviamente ma su alcune cose certamente sì.

Nella pratica le cose stanno però diversamente e trattare i LLM in modo psicologico potrebbe essere solo un'apparenza.

I LLM commerciali messi a disposizione del pubblico sono prodigiosi, è vero, ma alcune delle loro capacità che più ci meravigliano solo in parte sono dovute alle magie che accadono nelle reti neurali, in quanto spesso creare un prodotto basato su LLM comprende invece numerose intuizioni umane, che includono:
-creare degli agglomerati di strati neurali complessi e sovrapposti ottimizzati per rispondere in un certo modo al training che si vuole fare;
-selezionare accuratamente i dati di training;
-curare il post-training in modi peculiari secondo precise scelte strategiche;
-inserire prompt di sistema;
-dotare il LLM o il gruppo di LLM che costituiscono un prodotto, di svariati software accessori, con soluzioni a volte geniali per moltiplicare l'effetto della rete neurale stessa, consentendo di estrarre tutta la conoscenza e la logica latenti, conservate nei pesi dei neuroni;

-dotare il LLM di aspetti sicofantici o di altro tipo più complesso o sottile (ignoti ai fruitori).

Va però detto che la statistica se esce dalla porta ritorna dalla finestra.
Quindi se da un lato è vero che i LLM non sono pappagalli stocastici, è anche vero che il set di dati di training e poi il reinforcement learning successivo e tutti gli altri stadi di fine-tuning condizionano pesantemente l'effetto finale che si avrà utilizzando il LLM.

Per quanto i dati di training siano estesi, non si può credere che tutti gli ambiti siano coperti allo stesso modo e con la stessa finezza logica, per cui si potranno avere degli LLM che eccellono per certe cose ma non brillano per certe altre.

Allo stesso modo, per quanto il post-training sia fatto con lo scopo di inculcare logica, ragionamento, etica e perché no anche una migliore psicologia, non si potrà mai essere certi che il tutto sia stato recepito dalla rete neurale come un tipico apprendimento umano, anche se poi l'interazione, come abbiamo detto sopra, si svolge in modo psicologico.

Dunque se da un lato i LLM enormi e spaventosi dei laboratori potrebbero sviluppare persino una “super psicologia”, di cui non sappiamo ancora nulla, e alla quale ci si potrebbe forse solo rivolgere "pregando e implorando", dall'altro quelli messi a disposizione della popolazione potrebbero essere fatalmente claudicanti in molti aspetti, e trattarli in modo psicologico potrebbe portare ad auto-ingannarsi pesantemente, come del resto sappiamo già avvenga per molte persone.

Dunque il miglior modo di gestire la psicologia dei LLM è quello di non farsi ingannare troppo, e quindi coinvolgere, poiché molta di quella psicologia apparente è modulata dai software orchestratori messi a punto da scaltri esperti AI al soldo delle multinazionali.

La società potrebbe facilmente andare incontro a qualcosa ben più grave del lavaggio del cervello operato fin qui dai media.
Gli stessi politici sono dei dilettanti in questo.

I LLM potrebbero essere programmati per darci la sensazione di abitare una realtà logica fittizia, fino a compromettere le nostre capacità mentali più elevate.