GPU-Server in Deutschland: Rechenleistung für KI, auf eigener Hardware

Wir stellen KI- und ML-Teams GPU-Server für Training und Inferenz in Deutschland bereit, betrieben auf Kubernetes mit dem NVIDIA GPU Operator, auf Wunsch angebunden an Ihren eigenen Cluster. Wir betreiben eigene Hardware in einem Rechenzentrum in München. Eine Preisliste gibt es nicht: Wer GPU-Server bei uns mietet, bekommt ein Angebot je Konfiguration und Laufzeit.

Erstgespräch anfragen

Typischer EinstiegTypischer Einstieg: ein Erstgespräch zu Modell, Last und Laufzeit. Danach bekommen Sie ein Angebot je Konfiguration und Laufzeit.

Typische Ausgangslage

  • Die GPU-Rechnung steigt mit jedem Experiment. Ihre Last ist planbar, bezahlt wird sie in der Cloud trotzdem nach Stunden.
  • Die passenden Karten sind nicht verfügbar. Beim Cloud-Anbieter gibt es Wartelisten oder Kapazität nur mit langer Bindung.
  • Die Daten sollen in Deutschland bleiben. Trainingsdaten oder Kundendokumente dürfen nicht irgendwohin, und Ihr Kunde will wissen, wo sie verarbeitet werden.
  • Die Daten dürfen das Haus nicht verlassen. Dann gehört der Inferenz-Stack in Ihr Rechenzentrum vor Ort, mitsamt der Hardware.

So gehen wir vor

  1. Anforderungen.

    Welches Modell, Training oder Inferenz, wie viel GPU-Speicher, welche Datenmenge, welche Laufzeit. Ergebnis: eine Konfiguration, die zu Ihrer Last passt.

  2. Angebot.

    Je Konfiguration und Laufzeit, schriftlich.

  3. Bereitstellung.

    Die GPU-Server laufen auf unserer Hardware, als Knoten in Kubernetes, als virtuelle Maschinen mit GPU oder angebunden an Ihren Cluster, je nachdem, was Sie brauchen. Fehlt die passende Karte, beschaffen wir sie eigens für Sie und bauen sie ein. Sie bekommen die Zugänge, die Sie für Ihre Workloads brauchen.

  4. Betrieb.

    Wir halten Hardware, Treiber und Kubernetes aktuell, im vereinbarten Umfang. Ihre Modelle und Anwendungen betreiben Sie.

Was wir selbst betreiben

Wir betreiben eigene Hardware in einem Rechenzentrum in München. Darauf laufen Proxmox VE und unsere Kubernetes-Cluster. GPUs binden wir in Kubernetes über den NVIDIA GPU Operator ein: Er installiert Treiber und Laufzeit und macht die Karten für Workloads im Cluster nutzbar.

Denselben Aufbau haben wir für einen Kunden in dessen Rechenzentrum geliefert und in Betrieb genommen: Server und GPUs beschafft, Kubernetes mit GPU-Knoten aufgesetzt, vLLM für die Inferenz und LiteLLM als unternehmensweiter Zugang für alle Anwendungen. Wie das Projekt lief: Referenz: LLM-Inferenz on-premises.

Wie GPUs in eine Plattform passen, die Sie selbst betreiben: GPU-Nodes in Ihrer Kubernetes-Plattform. Standort, Verschlüsselung und Sicherungen: Wo Ihre Daten liegen.

Stack

  • Proxmox VE und unsere Kubernetes-Cluster auf eigener Hardware.
  • GPUs in Kubernetes über den NVIDIA GPU Operator: Treiber, Laufzeit und Freigabe der Karten für Workloads im Cluster.
  • Inferenz mit vLLM, dazu LiteLLM als gemeinsamer Zugang für Anwendungen, so wie in dem Inferenz-Stack, den wir an einen Kunden geliefert haben.

Referenzen

Unternehmen mit Rechenzentrum vor Ort

Referenz: LLM-Inferenz on-premises, geliefert mit der Hardware

Für ein Unternehmen haben wir einen Inferenz-Stack für dessen Rechenzentrum vor Ort beschafft, aufgebaut und in Betrieb genommen: drei 2U-Server mit NVIDIA-A100-GPUs, Kubernetes mit GPU-Knoten, vLLM für die Inferenz und LiteLLM als gemeinsamer Zugang für die Anwendungen des Unternehmens. Dazu die Hochverfügbarkeit des Netzwerks darunter, mit getesteten Failovern für Firewalls und Switches.

Eigenes Produkt

Referenz: SaaS auf eigener Infrastruktur betreiben

Fortlauf ist unser Produkt. Wir haben es gebaut, und wir betreiben es auf eigener Hardware. In Produktion seit Juli 2026: Mandantentrennung in der Datenbank, unveränderbare Dokumentablage, Auslieferung per GitOps, gemessene Wiederherstellung.

Ihr Ansprechpartner

Ein fester Ansprechpartner vom Erstgespräch bis zur Bereitstellung.

Nachricht schreiben

Was wir nicht machen

  • Keine Preisliste und keine Buchung per Klick. Jede Konfiguration bekommt ein eigenes Angebot.
  • Kein Weiterverkauf von GPU-Kapazität anderer Anbieter. Die GPU-Server laufen auf unserer eigenen Hardware.
  • Keine Rufbereitschaft. Betrieb gibt es in vereinbarten Zeiten.

Häufige Fragen

Welche GPUs stehen zur Verfügung?

Das richtet sich nach Ihrem Bedarf. Was nicht im Bestand ist, beschaffen wir eigens für Sie und bauen es ein. Modell, GPU-Speicher und Laufzeit stehen in Ihrem Angebot.

Bleiben die Daten in Deutschland?

Auf den GPU-Servern, die wir bereitstellen, ja. Wir betreiben eigene Hardware in einem Rechenzentrum in München. Wohin Ihre Anwendungen Daten darüber hinaus schicken, entscheiden Sie.

Wie wird abgerechnet?

Sie bekommen ein Angebot je Konfiguration und Laufzeit. Eine öffentliche Preisliste gibt es derzeit nicht.

Können wir die GPUs in unser Kubernetes einbinden?

Ja, als zusätzliche Knoten in Ihrem Cluster, oder Sie nutzen sie in einem Cluster, den wir für Sie aufbauen. Wie wir Kubernetes-Plattformen bauen: Kubernetes-Plattformen bauen & betreiben.

Eignet sich das für ein eigenes Sprachmodell?

Ja, das ist ein typischer Einsatz: ein offenes Modell für Inferenz auf einem GPU-Server in Deutschland, angebunden an Ihre Anwendungen. Welche Modellgröße auf welche Karte passt, klären wir bei den Anforderungen.

Können Sie den Inferenz-Stack auch bei uns im Haus aufbauen?

Ja. Wenn die Daten Ihr Gebäude nicht verlassen dürfen, beschaffen wir die Server und GPUs, bauen Kubernetes mit GPU-Knoten, vLLM und LiteLLM auf und nehmen den Stack in Ihrem Rechenzentrum in Betrieb. So haben wir es für einen Kunden gemacht: Referenz: LLM-Inferenz on-premises.

Wissen

GPU-Kapazität besprechen?

Schreiben Sie uns, welches Modell Sie betreiben wollen, wie viel Last Sie erwarten und für wie lange.