u/Resident_Stage_3569

Sziasztok!

Másfél hete próbálok chatgpt segítségével összepakolni egy RAG feladatokra képes onprem modellt. Tapasztalat nélkül álltam neki, sikerrel beúzemeltem az open webui keretet, van letöltve 2 modell (egy gyorsabb 4b és egy llama8b). Sikerrel összerakva RAG knowledge stb., ugyanakkor a modellek f@szságokat adnak vissza, 1-1 konkrét kérdés (pl. Meghivatkozva a embedded forrást add vissza ezt a mondatot stb. ) esetében nagy hibával valaszolnak. A forrásdoksik magyarok, így ilyen konfoligot szeretnék.

A kérdés: van-e valakinek olyan működő beállítása, amit megosztana velem, azaz részemre megküldené leírásban, vagy képernyő fotókon keresztül?

Köszönöm