KI Server (Hardware - Chassie Aufbau und Komponenten)
ich bin aktuell auf der Suche nach einer passenden Hardware-Lösung für mein Dienstleistungsunternehmen, um einen eigenen KI-Server aufzubauen. Ziel ist es, Workflows zu automatisieren und Dokumentenvorlagen zu erstellen, da die bestehenden Public-Cloud-Lösungen für unsere Anforderungen nicht die gewünschte Zuverlässigkeit und Flexibilität bieten. Danke Copilot für nichts, ausser Zeitverschwendung. Heute war dann der Punkt wo ich gesagt habe, reicht so nicht. Immer wieder haluzienieren, immer wieder nur diskutieren, Vorlagen nicht finden usw.. sehr nervig. Daher jetzt dann selber.
Der Serverraum ist bereits mit einer entsprechenden Klimatisierung ausgestattet, und auch die Stromversorgung ist über ausreichend eigene Absicherungen/Leitungen realisiert. Das System soll initial für ca. 10 User ausgelegt, aber in Zukunft problemlos erweiterbar sein auf bis zu 20 User. Wenn es dann mal läuft.
Wichtig sind zudem eine zeitnahe Verfügbarkeit und kurze Lieferzeiten der Komponenten.
Folgendes Setup steht aktuell im Raum:
- Mainboard: Supermicro H13SSL-NT (oder passende Alternative)
- CPU: AMD EPYC 9554
- GPU: Start mit 2× RTX PRO 6000 (späterer Ausbau auf 4× GPUs geplant)
- RAM: 512 GB - ausbaufähig auf 1024 GB
- Speicher: M.2 NVMe SSDs
- Netzteil: Redundante Server-PSU (ausgelegt für den Vollausbau) am besten 4 Stück
- Airflow !
Meine konkreten Fragen an die Runde:
- Welches Chassis (4U) ist für dieses Setup empfehlenswert? Da die Server-GPUs eine effiziente Kühlung (starker Luftstrom von vorne nach hinten) benötigen, suche ich ein Gehäuse, das diesen Anforderungen und dem späteren Ausbau auf 4 Grafikkarten gerecht wird.
- Welche Alternativen gibt es zu Supermicro? Bei den Komplettsystemen von Supermicro wird häufig direkt ein Dual-Processor-Setup (2 CPUs) angeboten. Ich suche jedoch nach einer Single-Processor-Plattform (1 CPU), die den Ausbau auf 4 GPUs unterstützt (z. B. Barebones von GIGABYTE oder ASUS). Welche konkreten Modelle haben wir hier, die ihr empfehlen könnt.
Ich freue mich auf eure Erfahrungswerte und Empfehlungen. Danke schön