Revolut gibt an, eine Reduzierung der KI-Kosten um 90 % erreicht zu haben, indem das Unternehmen von den kommerziellen Diensten von OpenAI und Anthropic auf die chinesischen GLM-Modelle auf dedizierter Infrastruktur umgestiegen ist. Das erläutert David Abitbol, Leiter der KI‑Operationen.
Inhalt
Kernpunkte
- Revolut verwendet GLM 5.3 auf 56 NVIDIA‑B200‑GPUs.
- Die Verarbeitung kostet im Durchschnitt 0,30 US‑Dollar pro einer Million Token.
- Die Latenz der ersten Antwort ist bei gleicher GPU‑Anzahl um 88 % gesunken.
- Die intern betriebenen Modelle arbeiten mit Zugriffskontrollen und Aktivitätsnachverfolgung.
Wie Revolut die KI‑Kosten senkt
Die Einsparungen stammen aus einer bewussten Entscheidung: GLM 5.3, entwickelt vom chinesischen Team Z.ai (früher Zhipu AI), auf einer dedizierten Infrastruktur auszuführen. Das Unternehmen nutzt kommerzielle Dienste nicht mehr als Standardoption und behält das Modell unter eigener Kontrolle.
Nach Angaben von Abitbol bewältigen 56 NVIDIA‑B200‑GPUs auf Basis der Blackwell‑Architektur die Workloads von rund 2.000 Ingenieuren. Die Infrastruktur ist auf schnelle Antworten und viele gleichzeitige Anfragen optimiert.
Der Umstieg hat allerdings nicht alle externen Werkzeuge verdrängt. Claude Code, Codex und Gemini bleiben verfügbar, insbesondere für Aufgaben, bei denen sie gegenüber den intern betriebenen Modellen deutliche Vorteile bieten.
Schnellere Antworten mit derselben Hardware
Zwischen April und August 2026 hat Revolut die Zeit bis zum ersten Token von 14,26 auf 1,68 Sekunden gesenkt, ohne zusätzliche GPUs einzusetzen. Das entspricht einer Verbesserung der anfänglichen Latenz um 88 %, während die Anfragen pro Sekunde um 76 % gestiegen sind.
Die Zeit bis zum ersten Token, oder TTFT, misst die Wartezeit, bevor das Modell mit der Antwort beginnt. Abitbol betrachtet sie als den wichtigsten Indikator: Das Ziel ist, unter drei Sekunden zu bleiben, denn jenseits von fünf Sekunden wirken Antworten langsam.
Für die alltägliche Ingenieursarbeit, ergänzt er, reichen etwa 200 Token pro Sekunde bei der Generierung aus. Diese Arbeit bezieht immer häufiger KI‑Agenten ein, deren Ergebnisse die Entwickler nachgelagert prüfen.
FP4‑Quantisierung und KV‑Cache
Eine der wichtigsten Optimierungen ist die FP4‑Quantisierung, die Werte mit vier statt mit acht Bit wie bei FP8 speichert und dadurch den Speicherbedarf reduziert. Laut Abitbol würde ein Wechsel zu FP8 rund 40 % mehr GPU‑Ressourcen erfordern.
Seiner Ansicht nach würde dieser Wechsel für die Workloads der Entwickler von Revolut keinen nennenswerten Genauigkeitsgewinn bringen.
Für Programmieraufgaben strebt Revolut zudem eine Trefferquote des KV‑Caches von über 90 % an. Der Key‑Value‑Cache speichert Zwischenergebnisse, sodass das System bereits verarbeitete Informationen wiederverwenden und Latenz sowie GPU‑Last reduzieren kann, wenn Entwickler mit wiederkehrenden Codeschemata arbeiten.
Cache‑Kapazität, Kontextlänge und gleichzeitige Anfragen müssen ausbalanciert werden. Abitbol weist darauf hin, dass einige Modelle bis zu eine Million Kontext‑Token unterstützen, längere Kontexte jedoch mehr Speicher verbrauchen und die Anzahl paralleler Anfragen begrenzen können.
Wenn zusätzlicher Kontext nicht benötigt wird, begrenzt Revolut die verarbeiteten Informationen. Zu den weiteren berücksichtigten Techniken gehören speculative decoding und die Optimierung der Phasen der Anfrageverarbeitung.
Kosten pro Token und kürzere Entwicklungszeiten
Die durchschnittlichen Verarbeitungskosten liegen bei 0,30 US‑Dollar pro einer Million Token. Die gesamten KI‑Ausgaben betragen heute etwa ein Zehntel der früheren Kosten für die Dienste von OpenAI und Anthropic.
Nach Angaben von Revolut ist die Geschwindigkeit beim Schreiben von Code um 60 % gestiegen und die Entwicklungszeiten haben sich um 70 % verkürzt.
Diese Ergebnisse folgen auf die Einführung von Gemini im Januar 2025, als erste interne Daten einen Rückgang der Zeit für das Schreiben von Code um 20 % und der Durchlaufzeit um 10 % zeigten.
Die Wirtschaftlichkeit von Claude Code war hingegen anfangs weniger überzeugend: Die intensive Nutzung veranlasste das Unternehmen dazu, Ausgabenobergrenzen festzulegen. Der Umstieg auf intern betriebene GLM‑Modelle ermöglichte weitere Kostensenkungen.
Praktisch gesehen hat Revolut durch Quantisierung, Speichermanagement und Inferenzoptimierung mehr Leistung aus den bereits eingesetzten Beschleunigern herausgeholt, bevor in zusätzliche Hardware investiert wurde.
Interner Betrieb und Kontrolle über den Datenpfad
Die Nutzung eines in China entwickelten Modells bedeutet nicht zwangsläufig, dass Anfragen an dessen Entwickler gesendet werden. Die Modellgewichte werden heruntergeladen und auf einer frei gewählten Infrastruktur ausgeführt, wodurch Revolut den für die Inferenz genutzten Datenpfad kontrollieren kann.
Abitbol beschreibt eine Architektur, die auf Sandboxing, Berechtigungsregeln und menschlicher Aufsicht basiert. Richtlinien legen fest, welche Operationen der Agenten erlaubt oder blockiert sind, während die Telemetrie Aktivitäten protokolliert, um nachzuvollziehen, was das System getan hat und Anomalien zu erkennen.
Das von Revolut gewählte Modell vereint somit intern ausgeführte Modelle, kontrollierten Zugriff und nachvollziehbare Operationen. Die Programmieragenten arbeiten unter Autorisierungsrichtlinien, wobei die Telemetrie die Kontrolle über ihre Aktionen unterstützt.
Inhalt erstellt mit Unterstützung künstlicher Intelligenz und redaktioneller Überarbeitung durch Menschen.




