u/Academic-Scope5061

Il mio viaggio nel mondo delle LLM locali - capitolo 2

E rieccomi qua.
Dopo aver provato un pò di modelli ho affrontato il target che mi ero dato: sto provando a fare una wiki LLM usando solo strumenti open source.

Dopo aver perso parecchio tempo a chiedere a quel cretino inutile di ChatGPT, scopro un clusterfuck di applicazioni e semi-applicazioni che non si sa bene che fanno e non si sa bene cosa vogliano fare.

Claude code: a pagamento, per varie ragioni non riesco a farlo funzionare con obsidian, rinuncio.

Alla fine dopo mille giri decido così:
Ollama servirà a fare la wiki, quindi convertirà i vari elementi che gli sottopongo in file md, si perde il processo automatico ma pazienza.

Per la manutenzione della wiki? Non so, per ora sono finito con Cline usato dentro VM Studio, e Cline a sua volta usa sempre un modello locale di Ollama.
Ho provato Cursor prima per fare la stessa cosa: molto buono, ma non sono riuscito nemmeno a finire di dirlo che avevo già esaurito il piano free.

Come al solito niente, è solo per condividere le mie esperienze )

reddit.com
u/Academic-Scope5061 — 7 days ago

Primi esperimenti con LLM locale - osservazioni e dubbi

Dopo un pò di tempo passato a usare varie IA online mi sono deciso: ho installato LM Studio e ho iniziato a muovere i primi passi.
Per ora ho scaricato gemma E4B, pensavo andasse molto male ma anche così, liscio, va molto meglio di quanto mi aspettassi.
Per le richieste hardware, alla fine mi par di capire che è tutta questione di ram, non serve questa grande potenza di calcolo per avere un'IA usabile, anche con la mia vecchia gpu che ha 8gb di ram funziona tutto decentemente (gemma e anche qualche altro modello più cicciotto che ho scaricato per provare).
Volevo iniziare a creare una wiki ma alla fine sembra che ci vogliano altri strumenti, tipo claude code e obsidian.

Niente, era solo per condividere le mie prime esperienze.

reddit.com
u/Academic-Scope5061 — 10 days ago

Esistono storie che

Ho 35 anni, RAL 35k, vita normalissima e un segreto abbastanza imbarazzante: kissless virgin a 35 anni. Non esattamente una cosa che metti su LinkedIn.

Ieri sera prendo un taxi sotto la pioggia a Roma. Arriviamo sotto casa, provo a pagare col POS.

“Non funziona.”

Gli dico che dovrebbe accettarlo comunque. Lui mi guarda dallo specchietto e fa:

“Ah, sei uno di quelli.”

“Di quelli cosa?”

“Quelli che stanno su Reddit a piangere perché nessuna se li fila. Ti si legge in faccia che sei kissless virgin.”

Silenzio tombale.

Poi aggiunge:

“Guarda che ti posto su r/Itanglese.”

Raga io lì ho avuto un mancamento. Non capivo più un cazzo. Cioè come fai a passare dal POS alla mia verginità? Che connessione mentale aveva fatto quell’uomo?

Gli lascio 20 euro cash e scendo devastato psicologicamente. Cammino sotto la pioggia chiedendomi se l’Italia nel 2026 sia ancora un paese civile o se non convenga emigrare direttamente in Estonia.

Dopo cinque minuti passa un tizio in monopattino e mi urla:

“OH FRATE QUELLO DEL POS AHAHA”

Mi si gela il sangue.

Entro in un kebab aperto per calmarmi. Il kebabbaro mi guarda e fa:

“Bro ma alla fine gliel’hai dato il cash?”

Aveva visto il post.

Letteralmente il tassista mi aveva già messo su r/Itanglese con titolo:

>kissless virgin pretende POS

A quel punto torno a casa a piedi sotto la pioggia pensando che magari all’estero sarò comunque vergine, ma almeno nessun tassista mi farà cyberbullismo fiscale.

(Edit: sì, è un repost, in quello di prima qualche mod troppo butthurt ha cancellato il post)

reddit.com
u/Academic-Scope5061 — 12 days ago
▲ 47 r/Italia

Ho 35 anni, RAL 35k, vita normalissima e un segreto abbastanza imbarazzante: kissless virgin a 35 anni. Non esattamente una cosa che metti su LinkedIn.

Ieri sera prendo un taxi sotto la pioggia a Roma. Arriviamo sotto casa, provo a pagare col POS.

“Non funziona.”

Gli dico che dovrebbe accettarlo comunque. Lui mi guarda dallo specchietto e fa:

“Ah, sei uno di quelli.”

“Di quelli cosa?”

“Quelli che stanno su Reddit a piangere perché nessuna se li fila. Ti si legge in faccia che sei kissless virgin.”

Silenzio tombale.

Poi aggiunge:

“Guarda che ti posto su r/Itanglese.”

Raga io lì ho avuto un mancamento. Non capivo più un cazzo. Cioè come fai a passare dal POS alla mia verginità? Che connessione mentale aveva fatto quell’uomo?

Gli lascio 20 euro cash e scendo devastato psicologicamente. Cammino sotto la pioggia chiedendomi se l’Italia nel 2026 sia ancora un paese civile o se non convenga emigrare direttamente in Estonia.

Dopo cinque minuti passa un tizio in monopattino e mi urla:

“OH FRATE QUELLO DEL POS AHAHA”

Mi si gela il sangue.

Entro in un kebab aperto per calmarmi. Il kebabbaro mi guarda e fa:

“Bro ma alla fine gliel’hai dato il cash?”

Aveva visto il post.

Letteralmente il tassista mi aveva già messo su r/Itanglese con titolo:

>kissless virgin pretende POS

A quel punto torno a casa a piedi sotto la pioggia pensando che magari all’estero sarò comunque vergine, ma almeno nessun tassista mi farà cyberbullismo fiscale.

reddit.com
u/Academic-Scope5061 — 14 days ago

Sono tornato di fretta, e ho realizzato che ho dimenticato di lavarmi le mani.
La riunione è finita appena dopo che ho pensato questo, e tutti hanno iniziato a stringersi le mani.

reddit.com
u/Academic-Scope5061 — 15 days ago
▲ 6 r/sfoghi

E non scopo
E nessuno mi si caga
E sono solo
E al lavoro mi maltrattano
E non mi pagano abbastanza
E mo mi suicido
E questo paese fa schifo
E il tabaccaio si è categoricamente rifiutato di farmi pagare le goleador col PoS
E i vecchi sono cattivi
E i giovani sono maleducati
E le donne mi ghostano
E gli uomini mi ghostano
E lo psicologo mi ghosta
E ho l'ansia / ho l'autismo / ho i probbblemi / ho la neurodivergenza / ho l'angoscia
E le ho dette tutte o ne manca qualcuna?

reddit.com
u/Academic-Scope5061 — 20 days ago