GPU-Server für KI-Inferenz

Gegenstand von Los 1 ist ein dedizierter GPU-Server als Inferenz-Backend (des in Abschnitt 2 beschriebenen) RAG-Systems. Der Server wird teilbestückt beschafft und muss ohne Austausch von Kernkomponenten (Gehäuse, Netzteile, Kühlung, Riser, Verkabelung) auf den Vollausbau mit acht Grafikprozessoren aufgerüstet werden können. Konfiguration siehe Leistungsbeschreibung. Gegenstand von Los 2 ist ein Rack-Netzwerkspeichersystem für die interne Datenablage (Rohdaten der Wissensbasis, Modell-Artefakte) und als Ziel für Datensicherungen der Server, sowie für den internen Betrieb einer Nextcloud-Instanz zur Dateiablage und zum Dateiaustausch innerhalb des Hochschulnetzes einschließlich der zugehörigen Sicherungen. Das System wird ausschließlich im internen Netz betrieben. Gegenstand von Los 3 ist ein kompakter Rack-Server für die öffentlich erreichbaren Webdienste des Projekts (Projekt-Website, interaktive Webplattform, Demonstrator-Zugänge). Auf dem System wird ein Webserver mit Reverse-Proxy (Apache) betrieben, der Anfragen aus dem Internet entgegennimmt und an die internen Dienste weiterleitet. Der Server ist das einzige von außen erreichbare System und wird in einem eigenen Netzsegment (DMZ) betrieben; er hält selbst keine schützenswerten Nutzdaten.