Die Frage kommt gerade in vielen Unternehmen auf: Wir machen ernsthaft etwas mit KI. Brauchen wir dafür eigene GPU-Hardware? Meine Antwort nach einem Jahr Praxis mit gemieteten Beschleunigern: nein. Und zwar nicht aus Bequemlichkeit, sondern weil die Rechnung schlicht nicht aufgeht.
Das Kernargument in einem Satz
Der Produktzyklus bei KI-Beschleunigern ist deutlich kürzer als jede Abschreibungsdauer. Wer heute sechsstellig investiert, betreibt Ende des Jahres Hardware, die technisch bereits überholt ist.
Alles Weitere ist im Grunde nur die Ausbuchstabierung dieses einen Satzes. Aber die Details lohnen sich, weil sie zeigen, dass es hier nicht um „ein bisschen älter“ geht, sondern um einen harten Bruch.
1. Generationswechsel im Jahrestakt
H100 (2022), H200 (2024), B200 (2024/25), B300 (2025), Rubin angekündigt für 2026. Eine Abschreibung läuft typischerweise über vier bis fünf Jahre, also über drei bis vier Hardwaregenerationen hinweg. In keiner anderen Infrastrukturklasse würden wir das akzeptieren.
2. Ältere Hardware wird nicht langsamer, sondern unbrauchbar
Das ist der Punkt, der in Diskussionen am häufigsten unterschätzt wird. Bei Servern gilt sonst: Die alte Kiste ist eben ein bisschen träger. Bei GPUs ist das anders.
Ein Modell, das nicht in den Speicher passt, läuft nicht langsamer, es läuft gar nicht. Dazu kommt die Architekturseite: Blackwell unterstützt FP4 nativ, Hopper nicht. Die Effizienzgewinne, die die Branche gerade erzielt (neue Quantisierungsverfahren, MoE-Architekturen), laufen an älterer Hardware architektonisch vorbei. Man kauft also nicht „weniger Leistung“, sondern schließt sich von Teilen der Entwicklung aus.
3. Fixer Capex gegen fallende Mietpreise
Die Inferenzkosten pro Token fallen bei gleichbleibender Qualität kontinuierlich. Ein Kauf friert den heutigen Preis pro Token für Jahre ein, während die Mietalternative faktisch jedes Quartal günstiger wird. Die gekaufte Hardware wird damit gleichzeitig technisch schlechter und relativ teurer.
4. Der Restwert ist eine Wette
Die A100-Preise sind eingebrochen, sobald die H100 breit verfügbar war. Die entscheidende Frage an jeden Anbieter lautet deshalb: Gibt es eine Rücknahmegarantie zum kalkulierten Restwert? Erfahrungsgemäß lautet die Antwort nein. Das Restwertrisiko bleibt vollständig beim Käufer.
5. Die Lieferzeit frisst eine halbe Generation
Enterprise-GPU-Server haben Vorlaufzeiten von Monaten. Bei Inbetriebnahme ist die Hardware bereits nicht mehr aktuell: Ein Teil der Nutzungsdauer ist verbraucht, bevor die erste Zeile Code darauf läuft. Beim Mieten ist ein Upgrade ein Klick statt eines Beschaffungsprojekts.
6. Fixe Kapazität passt nie
Der Bedarf ist schubweise, nicht gleichmäßig: Ein Fine-Tuning-Lauf braucht acht GPUs für drei Tage, einmal im Quartal. Bei Lastspitzen entsteht mit eigener Hardware eine Warteschlange, im Leerlauf laufen Abschreibung und Stromkosten unbeirrt weiter. Mieten skaliert auf null, Kaufen nicht.
7. Der Bedarf schrumpft, während die Kapazität fix bleibt
Nicht nur die Hardware entwickelt sich schnell, auch die Modelle werden pro Qualitätsstufe drastisch effizienter. Ein Modell, für das vor wenigen Monaten noch Rechenzentrumshardware nötig gewesen wäre, läuft heute auf einem MacBook mit 128 GB RAM. Aktuelles Beispiel aus unserem eigenen Test: DeepSeek V4 Flash, lokal auf dem Laptop.
Die für einen gegebenen Anwendungsfall benötigte Hardwareklasse sinkt also, während die gekaufte Kapazität fix bleibt. Solange die tatsächliche Auslastung nicht gemessen ist, lässt sich seriös nicht beantworten, ob wir eine bestimmte Hardware nächstes Jahr überhaupt noch brauchen. Genau deshalb ist Mieten die richtige Antwort: Es hält die Entscheidung offen, bis der Bedarf messbar ist. Eine Kaufentscheidung ist irreversibel, eine Mietentscheidung jederzeit korrigierbar.
8. Der Modellmarkt dreht sich noch schneller als die Hardware
Wie schnell, zeigt ein Blick auf die vergangenen zehn Tage. In diesem Zeitraum sind erschienen:
- DeepSeek V4 Flash 0731, auf dem Qualitätsniveau von Opus 4.7 und dabei extrem günstig zu betreiben
- DeepSeek V4 Pro, Fable-Äquivalent und ebenfalls günstig im Betrieb
- Qwen 3.8, ebenfalls auf Fable-Niveau, aber sehr groß und entsprechend teuer zu betreiben
- GLM 5.3, wiederum Fable-Äquivalent und halbwegs wirtschaftlich betreibbar
Vier Releases in zehn Tagen, mit deutlich unterschiedlichen Hardwareprofilen: Das eine Modell läuft auf einem Laptop, das nächste braucht einen Multi-GPU-Knoten. Wer eine feste Konfiguration kauft, legt sich implizit auf ein bestimmtes Profil fest und kann von der Modellentwicklung nur noch dort profitieren, wo sie zufällig zur vorhandenen Hardware passt. Das aktuell beste Preis-Leistungs-Modell ist dann eben oft nicht das, was auf dem eigenen Blech läuft.
9. Der eigentliche Lock-in sitzt in der Software
Das Blech selbst ist unkritisch, darauf laufen Linux, CUDA und vLLM. Kritisch ist der proprietäre Software-Layer, der bei Komplettpaketen mitkommt (HPE Private Cloud AI, AI Essentials, Ezmeral), sowie Rahmenverträge à la GreenLake mit Mindestlaufzeit und Mindestabnahme. Wer nur Hardware kaufen wollte, hat am Ende oft ein Ökosystem gekauft.
Und was spricht gegen das Mieten?
Damit die Argumentation ehrlich bleibt: Mieten hat einen realen Nachteil, und er ist nicht der Preis.
Verfügbarkeitsrisiko: Wer eine gemietete GPU-Instanz abschaltet, gibt sie zurück in den Pool. Ob man sie kurzfristig wiederbekommt, entscheidet der Markt, und die Nachfrage nach aktuellen Beschleunigern übersteigt das Angebot regelmäßig. Bei knappen Generationen kann es passieren, dass man auf neue Kapazität wartet, statt sie einfach wieder hochzufahren.
Das ist kein theoretisches Risiko, sondern der Grund, warum manche Teams trotz aller Wirtschaftlichkeitsargumente eigene Hardware wollen: Wer sie besitzt, hat sie garantiert.
Unsere Praxiserfahrung sieht bisher allerdings anders aus: Wir hatten damit bislang keine Probleme. Instanzen, die wir pausiert oder abgeschaltet haben, konnten wir bisher problemlos wieder hochfahren, auch bei aktuellen Generationen wie H200 und B300. Das kann sich in Knappheitsphasen ändern, und man sollte es im Blick behalten. Wer auf Nummer sicher gehen will, hat innerhalb der Mietwelt aber ebenfalls Optionen: Reservierte Kapazität oder feste Laufzeitkontingente kosten Aufschlag, sind aber immer noch reversibler als ein Kauf.
Praktisch bedeutet das: Man plant Abschaltungen bewusst. Ein Langzeitexperiment lässt man laufen, statt es nachts zu pausieren und morgens auf Kapazität zu hoffen. Das ist ein Betriebsdetail, kein Argument für einen sechsstelligen Capex.
Dritte Option: Inference fertig einkaufen
Zwischen „eigene Hardware kaufen“ und „GPUs mieten und selbst betreiben“ gibt es noch eine dritte Variante, die oft übersehen wird: Inference direkt als API bei einem europäischen Anbieter einkaufen. Mistral bietet inzwischen zum Beispiel GLM 5.2 über die eigene API an, EU-gehostet und DSGVO-konform. Wer offene Modelle nutzen will, aber weder Beschaffung noch Betrieb im Haus haben möchte, bekommt damit den Datenschutzrahmen und spart sich die Infrastrukturfrage komplett.
Der Preis dafür ist weniger Kontrolle über Modellversionen und Betriebsdetails. Für viele Anwendungsfälle ist das aber genau der richtige Tausch, und die Entscheidung bleibt auch hier reversibel.
Fazit
Die Frage „kaufen oder mieten“ ist bei KI-Beschleunigern derzeit keine Kostenfrage, sondern eine Frage der Optionalität. Kaufen heißt: sich für vier bis fünf Jahre auf eine Hardwaregeneration, eine Kapazität und einen Preis pro Token festlegen, in einem Feld, in dem sich alle drei Größen im Jahrestakt ändern, und die Modelle darauf sogar im Wochentakt. Mieten heißt: jederzeit korrigieren können, gegen den Preis einer gewissen Abhängigkeit von der Marktverfügbarkeit.
Solange wir den tatsächlichen Bedarf nicht gemessen haben, ist die Antwort klar. Und wenn die Messung eines Tages einen konstant hohen, planbaren Grundbedarf zeigt, kann man die Frage neu stellen, dann aber mit Zahlen statt mit Bauchgefühl.
Wer für genau diese Entscheidung konkrete Größenordnungen braucht: Auf unserer Seite KI-Hardware kaufen oder mieten stehen marktübliche Kaufpreise nach Ausbaustufe, die Mietpreise daneben und die Amortisationsrechnung dazu. Inklusive der Fälle, in denen ein Kauf trotz allem die richtige Entscheidung ist.
