▲ 0 r/de_EDV
Wenn ich den Mega-KI-Server zuhause stehen hätte und Rechenzeit auf meinem LLM-Server "vermieten" würde könnte ich den technisch sicher und kostendeckend betreiben?
Moin,
"Noob", "Noob" Frage.
Lokale KI ist ja noch nicht so ganz im Homelab angekommen. Ok, early Adopter haben Server mit genügend Rechenpower und dutzende GB VRam, aber ich kann mir das noch nicht leisten.
Was wäre, wenn ich einen Server baue und Rechenzeit auf meinem LLM Server "vermieten" würde? Könnte ich den Server technisch sicher und kostendeckend betreiben?
Würde sich das irgendwie rechnen?
Oder: "Wer hat Lust einen "Shared-LLM-Server" zu betreiben?
Grüße
Dorfmüller
u/Dorfmueller — 1 month ago