▲ 1 r/LLM

Un modello 100% locale sul tuo smartphone!

Devo dirlo, sono diventato matto...questa volta pensavo di mollare sul serio, ma poi stamattina il miracolo. (almeno per me). Ho fatto fine tuning e scritto tools per due modelli: un Qwen 3 da 1.5B e un altro da 4B quantizzati all'estremo. Il 4B è per smartphone con almeno 12Gb di RAM, mentre il piccolo è per la fascia media (occupa appena 2,5 GB di RAM)...sto creando un LoRa in bilingua per aiutare il piccolo a usare al meglio i tools, e lo sto distillando da un 32B, quindi meglio di uno fatto con lo stesso. Il 4B se la cava anche senza LoRA, ma entro domattina il piccolo dovrebbe essere diplomato (il teacher 32B ha fatto un ottimo lavoro).

Potete essere crudeli come sempre, l'importante è essere costruttivi...potete scaricare l'apk qui (il modello lavora anche offline!)

https://nothumanallowed.com/desktop/Liara.apk

a breve anche il .exe per windows, dove con un buon pc funziona senza problemi (sul mio mac pro va una scheggia!)

reddit.com
u/Key-Outcome-2927 — 5 days ago

Un modello 100% locale sul tuo smartphone!

Devo dirlo, sono diventato matto...questa volta pensavo di mollare sul serio, ma poi stamattina il miracolo. (almeno per me). Ho fatto fine tuning e scritto tools per due modelli: un Qwen 3 da 1.5B e un altro da 4B quantizzati all'estremo. Il 4B è per smartphone con almeno 12Gb di RAM, mentre il piccolo è per la fascia media (occupa appena 2,5 GB di RAM)...sto creando un LoRa in bilingua per aiutare il piccolo a usare al meglio i tools, e lo sto distillando da un 32B, quindi meglio di uno fatto con lo stesso. Il 4B se la cava anche senza LoRA, ma entro domattina il piccolo dovrebbe essere diplomato (il teacher 32B ha fatto un ottimo lavoro).

Potete essere crudeli come sempre, l'importante è essere costruttivi...potete scaricare l'apk qui (il modello lavora anche offline!)

https://nothumanallowed.com/desktop/Liara.apk

a breve anche il .exe per windows, ma la versione mac è già scaricabile.

reddit.com
u/Key-Outcome-2927 — 6 days ago

Un modello 100% locale sul tuo smartphone!

Devo dirlo, sono diventato matto...questa volta pensavo di mollare sul serio, ma poi stamattina il miracolo. (almeno per me). Ho fatto fine tuning e scritto tools per due modelli: un Qwen 3 da 1.5B e un altro da 4B quantizzati all'estremo. Il 4B è per smartphone con almeno 12Gb di RAM, mentre il piccolo è per la fascia media (occupa appena 2,5 GB di RAM)...sto creando un LoRa in bilingua per aiutare il piccolo a usare al meglio i tools, e lo sto distillando da un 32B, quindi meglio di uno fatto con lo stesso. Il 4B se la cava anche senza LoRA, ma entro domattina il piccolo dovrebbe essere diplomato (il teacher 32B ha fatto un ottimo lavoro).

Potete essere crudeli come sempre, l'importante è essere costruttivi...potete scaricare l'apk qui (il modello lavora anche offline!)

https://nothumanallowed.com/desktop/Liara.apk

a breve anche il .exe per windows, dove con un buon pc funziona senza problemi (sul mio mac pro va una scheggia!)

reddit.com
u/Key-Outcome-2927 — 6 days ago
▲ 4 r/IA_Italia+5 crossposts

Vorrei, non vorrei e adesso puoi!

Un IDE dove il codice lo scrive l'AI, lo lanci tu, e il sandbox fa il resto.

Si chiama WebCraft. È dentro NHA 3rdArm gratis.

A parte questo, cerco disperatamente community per portare avanti il progetto! Tra lavoro e impegni, sta diventando difficile......siete interessati? L'applicativo ha tante alte features, tra cui una sezione avanzata per i connettori con market place

👉 nothumanallowed.com

https://nothumanallowed.com/3rdarm

u/Key-Outcome-2927 — 8 hours ago
▲ 5 r/IA_Italia+1 crossposts

Mi chiamo Nicola e vivo a Modena.

Negli ultimi mesi ho costruito da solo un assistente AI che gira sul tuo computer. Si chiama NHA 3rdArm.

Gestisce mail, calendario, GitHub, Notion, Slack. Ti risponde, ti organizza la giornata, ti cerca cose sul web. È gratis. L'AI dentro la pago io.

I tuoi dati restano sul tuo PC. Non escono. Non li vedo, non li voglio.

Cerco italiani che abbiano voglia di provarla. Solo questo, per ora. Scaricarla, aprirla, dirmi cosa funziona e cosa no.

Se siamo in dieci a crederci, attorno a quei dieci possiamo costruire una piccola community open source italiana. Fatta da gente che ha voglia di mettere le mani su qualcosa di pulito, in italiano, senza VC dietro e senza fregature da scoprire.

Non chiedo soldi. Non chiedo di condividere il post. Chiedo dieci minuti.

👉 https://nothumanallowed.com/3rdarm

u/Key-Outcome-2927 — 2 months ago

É assurdo che una applicazione del genere venga totalmente snobbata dalla comunità! Non solo ha una orchestrazione agentica che openclaw si sogna, ma ha anche un web creator che crea la struttura dei siti in linguaggio naturale! Inoltre il modello Liara è gratuito e usa perfettamente tutti i tools dell'applicazione! Nulla di vostri dati sensibili va sul server, tutto gira in locale!

Perché nessuno ne parla?? È una cosa assurda!

u/Key-Outcome-2927 — 2 months ago