Drei Modelle, drei Hardwareklassen: ähnliche Benchmark-Qualität, aber massiv unterschiedliche VRAM-Anforderungen und Inferenz-Effizienz. Was das für die Hardwarewahl bei souveräner KI bedeutet.
Matthias Allitsch-Wutte · GEKI Gründer
18. August 2026 · 5 Min.
Moderne KI-Modelle brauchen vor allem eines: VRAM. Und VRAM ist teuer. Je größer ein Modell, desto mehr GPU-Speicher muss bereitgestellt werden – und desto höher werden die Anforderungen an Server und Infrastruktur.
Qwen3.8 27B, DeepSeek V4 Flash und Kimi K3 zeigen drei sehr unterschiedliche Ansätze. Ihre Qualität liegt in Benchmarks teilweise erstaunlich nahe beieinander, ihre Hardwareanforderungen und Inferenz-Effizienz unterscheiden sich jedoch massiv.
Die entscheidenden Fragen sind deshalb:
Wie viel VRAM braucht ein Modell? Und wie viele Parameter müssen bei jedem Token tatsächlich rechnen?
| Modell | ARC-AGI-2 | AA Index | Gesamtparameter | Aktiv pro Token | Modellgewichte | Hardware |
|---|---|---|---|---|---|---|
| Qwen3.8 27B | noch kein verifizierter Score | 52 | 27B | ~27B | ~31 GB | 1× RTX PRO 6000 |
| DeepSeek V4 Flash | 61,4 % | 52 | 284B | 13B | ~160 GB | 2× AMD Instinct MI350P |
| Kimi K3 | 60,4 % | 60 | 2,8T | 104B | ~1,56 TB | 8× B300 / 8× MI355X |
Die Gewichtszahlen gelten für die praxisüblichen Formate: Qwen3.8 27B als FP8 (~31 GB), DeepSeek V4 Flash rund 160 GB, Kimi K3 FP4 (~1,56 TB).
Die Unterschiede beim VRAM sind enorm.
Qwen3.8 27B passt problemlos auf eine einzelne GPU. DeepSeek V4 Flash benötigt bereits rund 160 GB für die Modellgewichte. Kimi K3 liegt mit rund 1,56 TB nochmals in einer völlig anderen Hardwareklasse.
Bei der Qualität ist der Abstand deutlich kleiner. Besonders interessant: DeepSeek V4 Flash und Kimi K3 liegen auf ARC-AGI-2 praktisch gleichauf.
Qwen3.8 27B zeigt, wie viel Modellqualität inzwischen mit wenig Hardware möglich ist.
Das FP8-Modell benötigt nur rund 31 GB VRAM. Eine einzelne RTX PRO 6000 mit 96 GB reicht damit aus.
Gleichzeitig erreicht Qwen3.8 27B einen Artificial Analysis Intelligence Index von 52 – denselben Wert wie DeepSeek V4 Flash.
Das macht Qwen besonders interessant, wenn die Hardwareanforderungen niedrig bleiben sollen: eine GPU, niedrige Einstiegskosten, hohe Modellqualität.
Für Entwicklungsumgebungen, Pilotprojekte und kleinere dedizierte Installationen ist das sehr attraktiv. Für einen stark ausgelasteten zentralen Enterprise-Service würden wir allerdings eher auf DeepSeek setzen.
DeepSeek V4 Flash braucht deutlich mehr VRAM als Qwen3.8 27B, ist im laufenden Betrieb aber Inferenz-effizienter.
Das Modell besitzt insgesamt 284 Milliarden Parameter und benötigt rund 160 GB Speicher für seine Modellgewichte. Damit reicht eine einzelne RTX PRO 6000 nicht mehr aus. Unsere Empfehlung ist 2× AMD Instinct MI350P.
Warum ist DeepSeek für Enterprise trotzdem so interessant? Die Antwort ist Mixture of Experts.
Von den insgesamt 284 Milliarden Parametern werden pro Token nur rund 13 Milliarden aktiviert. Zum Vergleich:
Damit müssen zwei Dinge getrennt betrachtet werden:
DeepSeek muss deutlich mehr Modellparameter im Speicher halten. Für jeden neuen Token muss aber nur ein kleiner Teil davon tatsächlich rechnen. Genau das macht das Modell für hohe Auslastung interessant.
Bei einem zentralen Enterprise-KI-Service greifen viele Mitarbeiter, Anwendungen und Agenten gleichzeitig auf dieselbe Infrastruktur zu.
Dann zählt nicht nur, wie günstig sich das Modell überhaupt laden lässt. Entscheidend wird, wie effizient die vorhandene Hardware kontinuierlich Token produziert.
Hier hat DeepSeek einen strukturellen Vorteil. Die GPUs halten ein großes 284B-Modell im Speicher, pro Token werden aber lediglich 13B Parameter aktiviert. Qwen benötigt wesentlich weniger VRAM, aktiviert als Dense-Modell jedoch rund 27B Parameter pro Token.
Deshalb können beide Aussagen gleichzeitig richtig sein:
Aus den unterschiedlichen Modellarchitekturen ergeben sich auch unterschiedliche Hardwareklassen.
Für Qwen3.8 27B reicht bereits eine RTX PRO 6000 mit 96 GB VRAM. Das ist eine sehr kompakte Einstiegsklasse für souveräne KI:
Qwen zeigt eindrucksvoll, wie viel Modellqualität inzwischen auf einer einzigen GPU möglich ist. Für einen stark ausgelasteten zentralen Enterprise-KI-Service wäre es für uns allerdings nicht die erste Wahl.
Für DeepSeek V4 Flash sehen wir 2× AMD Instinct MI350P als Konfiguration.
Der zusätzliche VRAM hält das große 284B-Modell im Speicher. Gleichzeitig sorgt die Mixture-of-Experts-Architektur dafür, dass nur 13B Parameter pro Token aktiviert werden.
Für uns ist DeepSeek V4 Flash deshalb aktuell das Enterprise-Workhorse mit dem besten Verhältnis aus Qualität, Inferenz-Effizienz und Kosten. Gerade bei zentralen KI-Plattformen mit vielen Nutzern und hoher Auslastung spielt diese Architektur ihre Stärke aus.
Bei der Auswahl von KI-Hardware sind heute zwei Kennzahlen entscheidend.
Wie viel VRAM braucht das Modell?
Und: Wie viele Parameter müssen pro Token tatsächlich rechnen?
Qwen3.8 27B zeigt, wie viel Qualität heute auf einer einzelnen GPU möglich ist. DeepSeek V4 Flash braucht mehr VRAM, ist aber Inferenz-effizienter – genau das macht das Modell für stark ausgelastete Enterprise-Anwendungen besonders interessant. Kimi K3 liefert nochmals mehr Frontier-Qualität – allerdings mit einem massiven Sprung bei Hardware- und Betriebskosten.
Für GEKI ergibt sich daraus eine klare Staffelung:
Die entscheidende Frage ist also nicht nur, wie groß ein Modell ist – sondern wie viel davon im VRAM liegen muss und wie viel davon bei jedem Token tatsächlich rechnet.
Von einer einzelnen RTX PRO 6000 bis zur größeren Multi-GPU-Konfiguration – GEKI plant, liefert und betreibt die passende AI Factory für Ihr Modell, souverän im österreichischen Rechenzentrum.
