Deutsch
English
KI für dein Gaming Setup
Von der KI Workstation bis zum kompakten KI-Supercomputer: Hier findest du PCs, auf denen KI lokal läuft – ohne Cloud und ohne Token-Kosten. Weiter unten erfährst du, was dein Gaming PC schon mit KI kann.
Lokale KI heißt: Das KI-Modell läuft auf deiner Grafikkarte statt in der Cloud. Deine Daten bleiben auf deinem Rechner, und statt Abo- oder Token-Kosten zahlst du nur den Strom. Entscheidend ist dabei vor allem der Grafikspeicher (VRAM): 12 GB reichen zum Ausprobieren, 16 GB sind der Sweet Spot für Gaming plus KI, und 32 GB öffnen die Tür zu großen Sprachmodellen, KI-Video und eigenem Training.
Das Schöne daran: Ein aktueller Gaming PC ist bereits ein KI-PC. Eine KI Workstation lohnt sich erst, wenn deine Modelle nicht mehr in 16 GB passen oder dein PC stundenlang durchrechnen soll. Auf dieser Seite zeigen wir dir Schritt für Schritt, was welche Grafikkarte lokal kann – mit klaren technischen Daten, verständlich erklärt, mit Rechenbeispielen und Quellen.
Deine Daten bleiben bei dir Keine Nutzungslimits Läuft auf deinem Gaming PC Offline nutzbar
Stand: Oktober 2026. Preise gerundet, aktuelle Preise im Shop. Technische Daten laut Datenblättern von NVIDIA und AMD.
KI steckt schon in deinem Gaming PC
Bevor wir über Chatbots und Bildgeneratoren sprechen: Künstliche Intelligenz arbeitet in modernen Gaming PCs längst mit, meist ohne dass du es merkst. Grafikkarten von NVIDIA haben dafür eigene KI-Rechenkerne (Tensor Cores), aktuelle Radeon-Karten von AMD eigene KI-Beschleuniger. Welche KI-Funktionen du in Spielen nutzen kannst, hängt dabei direkt von der Hardware-Generation ab.
Die DLSS-Treppe: Welche Grafikkarte kann was?
Bei NVIDIAs DLSS erzeugt die KI heute bis zu 23 von 24 Pixeln, die du auf dem Bildschirm siehst. Je neuer die Grafikkarte, desto mehr DLSS-Funktionen stehen dir offen:
| Grafikkarten-Generation | Verfügbare DLSS-Funktionen |
|---|---|
| GeForce RTX 50 (z. B. RTX 5070 Ti, 5080, 5090) | alle Funktionen inkl. DLSS 5 (3D-Guided Neural Rendering) und (Dynamic) Multi Frame Generation |
| GeForce RTX 40 | Super Resolution, Ray Reconstruction, DLAA und Frame Generation |
| GeForce RTX 30 und RTX 20 | Super Resolution, Ray Reconstruction und DLAA |
DLSS 5 ist seit September 2026 verfügbar, zuerst in NBA 2K27, und läuft nur auf Grafikkarten der RTX-50-Serie. Neu ist dabei nicht mehr Tempo, sondern mehr Realismus: Die KI verfeinert Licht und Materialien als letzte Stufe der Bildberechnung, etwa Licht, das durch Haare fällt, oder tiefere Kontaktschatten. Das kostet Rechenleistung und Grafikspeicher. NVIDIA hat den Aufwand mit einem Update im Oktober 2026 zwar halbiert, trotzdem gilt: Je stärker deine Grafikkarte, desto weniger FPS kostet dich die bessere Optik.
Bei AMD heißt das Gegenstück FSR "Redstone" (seit Dezember 2025): KI-Upscaling, KI-Frame-Generation und Ray Regeneration für schöneres Raytracing. Diese KI-Funktionen laufen nur auf den Radeon-Karten der RX-9000-Serie, weil sie deren KI-Beschleuniger brauchen. Ältere Radeon-Karten nutzen weiterhin das klassische FSR 3. Mehr zur Lichtberechnung erklären wir auf unserer Seite zu Raytracing und Pathtracing.
KI außerhalb von Spielen: schon heute im Einsatz
- NVIDIA Broadcast: entfernt Tastaturklicks, Lüfterrauschen und Hall aus deinem Mikro, ersetzt den Hintergrund ohne Greenscreen und simuliert Blickkontakt zur Kamera (ab GeForce RTX 2060).
- RTX Video Super Resolution: rechnet Videos und die Webcam per KI auf höhere Auflösung hoch.
- KI-Gesichtstracking: VTube Studio nutzt die Tensor Cores von RTX-Karten, um deine Mimik auf einen Avatar zu übertragen. Mehr dazu weiter unten im Abschnitt KI im Stream.
- KI-Rauschunterdrückung und AI-Overclocking: Mainboard-Hersteller wie ASUS filtern Störgeräusche für dich und dein Team per Deep Learning heraus oder lassen eine KI die passenden Leistungsgrenzen für CPU und Kühlung ermitteln.
Lokale KI bringt Unabhängigkeit: Cloud oder eigener PC?
ChatGPT, Gemini und Co. laufen in riesigen Rechenzentren. Jede Frage, jedes Dokument und jedes Bild, das du hochlädst, wandert dorthin. Du bezahlst mit einem Abo oder pro verbrauchtem Token, und der Anbieter bestimmt, welches Modell du nutzen darfst, wie viel davon und zu welchen Bedingungen. Bei lokaler KI läuft das Modell dagegen direkt auf deinem PC. Niemand liest mit, nichts wird gedrosselt, und es funktioniert auch ohne Internetverbindung.
| Kriterium | Cloud-KI (z. B. ChatGPT) | Lokale KI auf deinem PC |
|---|---|---|
| Deine Daten | werden an den Anbieter übertragen | bleiben auf deinem Rechner |
| Laufende Kosten | Abo oder Bezahlung pro Token | nur Strom |
| Limits | Nutzungsgrenzen und Kontingente | keine, außer der Leistung deiner Hardware |
| Offline nutzbar | nein | ja |
| Modellwahl | was der Anbieter freigibt | frei wählbar, z. B. offene Modelle von OpenAI, Alibaba (Qwen) oder Meta (Llama) |
| Qualität der Spitzenmodelle | die stärksten Modelle gibt es nur hier | sehr gute offene Modelle, aber nicht ganz auf Flaggschiff-Niveau |
| Einrichtung | sofort startklar | einmalige Installation von Programmen wie Ollama, LM Studio oder ComfyUI |
„We need to control our own destiny and not get locked into a closed vendor.“ (Sinngemäß: Wir müssen unser Schicksal selbst in der Hand behalten und dürfen uns nicht an einen einzigen Anbieter ketten.)
Mark Zuckerberg, CEO von Meta, im Beitrag „Open Source AI Is the Path Forward“ vom 23. Juli 2024. Darin heißt es auch, offene Modelle lassen sich ausführen, „wherever you want“, also wo immer du willst.
Der Trend: KI wandert dorthin, wo die Daten entstehen
Der Schwerpunkt der KI verschiebt sich zunehmend von zentralen Rechenzentren hin zu sogenannten Edge-AI-Systemen. Die Modelle laufen dort, wo die Daten entstehen: in Gaming PCs und Workstations. Möglich machen das kleinere, effizientere Modelle. Die Vorteile sind niedrige Latenz, Datensouveränität und keine Abhängigkeit von der Verbindung zu einem fernen Server.
Ehrlich gesagt: Wer nur ab und zu eine Frage stellt, fährt mit einem Chat-Abo günstiger als mit neuer Hardware. Lokale KI spielt ihre Stärken bei Vielnutzung aus, bei Bildern und Videos, bei sensiblen Daten und vor allem dann, wenn du ohnehin einen leistungsstarken Gaming PC besitzt. Was das in Euro bedeutet, zeigen unsere Rechenbeispiele.
KI-Technik einfach erklärt: Die Zahlen, die zählen
Für lokale KI musst du kein Informatiker sein. Es reichen eine Handvoll Begriffe – und wer sie einmal mit einem Alltagsvergleich verknüpft hat, versteht jedes Datenblatt.
VRAM: die Arbeitsplatte deiner Grafikkarte
Stell dir vor, du kochst. Der Grafikspeicher (VRAM) ist deine Arbeitsplatte: Das KI-Modell muss komplett draufpassen, damit die Grafikkarte zügig damit arbeiten kann. Passt es nicht, landet ein Teil im Arbeitsspeicher (RAM) – das ist, als müsstest du für jede Zutat in den Keller laufen. Es funktioniert, ist aber deutlich langsamer.
- 12 GB VRAM: GeForce RTX 5070
- 16 GB VRAM: GeForce RTX 5070 Ti, GeForce RTX 5080, Radeon RX 9070 XT
- 32 GB VRAM: GeForce RTX 5090, Radeon AI PRO R9700, NVIDIA RTX PRO 4500
Speicherbandbreite: dein Lauftempo zwischen Kühlschrank und Herd
Die Bandbreite sagt, wie viele Daten pro Sekunde zwischen Grafikspeicher und Rechenkernen fließen. Beim Erzeugen von Text muss die Grafikkarte für jedes neue Wort-Stück das gesamte Modell einmal "ablaufen". Darum bestimmt die Bandbreite vor allem, wie schnell eine Antwort auf dem Bildschirm erscheint.
- Radeon RX 9070 XT und Radeon AI PRO R9700: 640 GB/s
- GeForce RTX 5070: 672 GB/s
- GeForce RTX 5070 Ti und NVIDIA RTX PRO 4500: 896 GB/s
- GeForce RTX 5080: 960 GB/s
- GeForce RTX 5090: 1.792 GB/s
Spannend: Die Profikarten für KI Workstations rechnen nicht schneller als die RTX 5090. Ihr Vorteil ist der doppelte Speicher gegenüber den 16-GB-Gaming-Karten, Fehlerkorrektur (ECC) und Effizienz im Dauerbetrieb – dazu mehr in der KI-Evolution.
Parameter und Quantisierung: Wie groß ist das "Gehirn"?
Die Größe eines Sprachmodells wird in Parametern angegeben: "8B" heißt 8 Milliarden (englisch billion). Mehr Parameter bedeuten meist mehr Wissen und bessere Antworten, aber auch mehr Speicherbedarf. Mit der Quantisierung werden die Modelle komprimiert, ähnlich wie MP3 eine Musikdatei kleiner macht: Statt 16 Bit pro Parameter genügen meist rund 4 Bit, bei kaum hörbarem – bzw. lesbarem – Qualitätsverlust.
Faustformel: Parameter in Milliarden × Bit ÷ 8 = Gigabyte, plus etwa 10 bis 20 % Puffer und etwas Platz für den Gesprächsverlauf (Kontext). Wie gut das passt, zeigen die realen Download-Größen aus der Modellbibliothek von Ollama:
| Modell | Größe (Ollama) | Passt vollständig in … |
|---|---|---|
| Qwen3 8B | 5,2 GB | 12 GB (z. B. RTX 5070) |
| Qwen3 14B | 9,3 GB | 12 GB knapp, 16 GB bequem |
| gpt-oss-20b (OpenAI) | 14 GB | 16 GB (z. B. RTX 5070 Ti, RX 9070 XT) |
| Qwen3 32B | 20 GB | 32 GB (auf 16 GB nur mit Auslagern in den RAM) |
| Llama 3.3 70B | 43 GB | 48 GB knapp, 72 GB bequem (RTX PRO 5000) |
| gpt-oss-120b (OpenAI) | 65 GB | 72 GB (RTX PRO 5000) |
Größen laut Ollama-Modellbibliothek, Standard-Quantisierung, Stand Oktober 2026.
CUDA oder ROCm: die Software-Frage
NVIDIA-Grafikkarten werden über die Plattform CUDA angesprochen, die seit Jahren der Standard in der KI-Welt ist. Fast jedes KI-Programm läuft darauf ohne Umwege. AMD setzt auf ROCm, das in den letzten Monaten große Fortschritte gemacht hat. Weil wir unsere PCs mit Windows ausliefern, hier der Stand für Windows (Oktober 2026):
- Bilder erzeugen: ComfyUI unterstützt AMD-Grafikkarten unter Windows seit Januar 2026 offiziell über ROCm.
- Sprachmodelle: Ollama führt die Radeon RX 9070 XT und die Radeon AI PRO R9700 offiziell unter Linux mit ROCm. Unter Windows laufen sie über die Vulkan-Schnittstelle, die Ollama ebenfalls unterstützt.
- Training: Hier ist NVIDIA unter Windows klar der einfachere Weg. Verbreitete Trainingswerkzeuge wie Unsloth Studio setzen dort eine NVIDIA-Grafikkarte voraus.
Die AMD-Unterstützung unter Windows wird laufend besser. Wir aktualisieren diesen Abschnitt, sobald sich etwas ändert. Wenn du auf ein bestimmtes Programm angewiesen bist, klärt unser Sales Team die Kompatibilität gerne vorab mit dir.
NPU und TOPS: Was kann der KI-Chip im Prozessor?
Neben CPU und Grafikkarte gibt es eine dritte Art von Rechenwerk, die speziell für KI gebaut ist: die Neural Processing Unit (NPU), bei Google auch Tensor Processing Unit (TPU) genannt. Ihre Leistung wird in TOPS angegeben, also Billionen Rechenoperationen pro Sekunde. Microsoft verlangt für viele der neuen Windows-KI-Funktionen (Copilot+ PCs) eine NPU mit mindestens 40 TOPS.
Im Desktop-Gaming-PC spielt die NPU aber kaum eine Rolle: Die Desktop-Prozessoren der Intel-Core-Ultra-200S-Serie wie der Core Ultra 7 265KF bringen laut Intel eine NPU mit 13 TOPS mit, im Datenblatt der AMD-Ryzen-9000-Desktop-Prozessoren (etwa Ryzen 9 9950X) taucht gar keine NPU auf. Die eigentliche KI-Arbeit erledigt die Grafikkarte – NVIDIA gibt für die RTX 5070 Ti beispielsweise 1.406 AI TOPS an. Die Werte sind wegen unterschiedlicher Rechenformate zwar nicht direkt vergleichbar, die Größenordnung zeigt aber, wer im Gaming PC die KI stemmt. Die NPU ist eher ein Stromspar-Helfer für kleine Daueraufgaben, vor allem im Laptop.
Für Technik-Fans: Warum NPUs und GPUs KI so gut können
NPUs und TPUs wurden für die speziellen Anforderungen von maschinellem Lernen entwickelt: das Trainieren neuronaler Netze und das schnelle Ausführen der trainierten Modelle. Entscheidend ist dabei die Datenparallelisierung. Hier glänzen auch Grafikkarten, denn beide Prozessorarten teilen Aufgabenpakete auf viele Kerne auf und bearbeiten sie gleichzeitig. CPUs arbeiten dagegen eher seriell, also pro Kern eine Aufgabe nach der anderen.
NPUs sind darauf getrimmt, einfache Rechenschritte mit hohem Wiederholungsanteil wie Matrizenberechnungen besonders effizient auszuführen, mit geringem Energiebedarf und hohem Datendurchsatz. Wer tiefer in Tensor-Berechnungen einsteigen will, dem empfehlen wir diese wissenschaftliche Arbeit zum Thema – Mathe-Kenntnisse schaden nicht. Die Unterschiede zwischen CPU und GPU erklärt unser Gaming PC Guide.
Die KI-Evolution: Was deine Grafikkarte lokal kann
Wie in der Evolution vom Einzeller bis zum Menschen bringt jede Stufe neue Fähigkeiten mit. Bei KI-Hardware zählen dabei vor allem zwei Eigenschaften: die Größe des "Gehirns", also der Grafikspeicher, und das Tempo, also die Speicherbandbreite. Ein aktueller Gaming PC steht schon weit oben auf der Leiter. Die KI Workstation ist die Spezialistin für große Modelle und lange Rechenläufe.
Die KI-Evolution deines PCs
Was deine Grafikkarte lokal kann – von der NPU bis zur KI Workstation
← scrollen/wischen für alle Stufen →
Ryzen 9000: keine NPU
Copilot+ braucht 40 TOPS
kleine Hintergrund-Helfer
8B-Chatbots, SDXL, Whisper
RX 9070 XT
Stable Diffusion
Training bis 14B
flinker bei Bild & Video
maximale Gaming-Power
RTX PRO 4500
Dauerbetrieb mit ECC
im Konfigurator
gpt-oss-120b (72 GB)
mehr Grafikspeicher = größere Modelle · mehr Bandbreite = schnellere Antworten
Stand: Oktober 2026 · Datenblattwerte NVIDIA / AMD · hitech-gamer.com
| Stufe | Grafikkarte | VRAM | Bandbreite | Strom | Typische Aufgaben | HI-TECH PCs |
|---|---|---|---|---|---|---|
| 0 · Einzeller | NPU im Prozessor | nutzt den RAM | – | – | Windows-KI-Effekte, kleine Helfer im Hintergrund | – |
| 1 · Fisch | GeForce RTX 5070 | 12 GB | 672 GB/s | 250 W | KI ausprobieren: 8B-Chatbots, SDXL-Bilder, Transkription | SLEEK Black, SLEEK White |
| 2 · Amphibie | GeForce RTX 5070 Ti / Radeon RX 9070 XT | 16 GB | 896 / 640 GB/s | 300 / 304 W | 14B-Modelle, gpt-oss-20b, Stable Diffusion, Training kleiner Modelle | RTX5070TI SPECIAL DEAL, FROSTBURN, EPIC |
| 3 · Reptil | GeForce RTX 5080 | 16 GB | 960 GB/s | 360 W | wie Stufe 2, flinker bei Bild, Video und Training | RTX5080 SPECIAL DEAL, SOLVARIS |
| 4 · Affe | GeForce RTX 5090 | 32 GB | 1.792 GB/s | 575 W | 32B-Modelle, KI-Video, maximale Gaming-Power | ASTRAL; als Upgrade in vielen Modellen, z. B. im EPIC |
| 5 · Mensch | Radeon AI PRO R9700 / NVIDIA RTX PRO 4500 | 32 GB mit ECC | 640 / 896 GB/s | 300 / 200 W | große Modelle, Training, Dauerbetrieb | KI Workstation R9700, KI Workstation RTX PRO 4500 |
| 6 · Ausblick | NVIDIA RTX PRO 5000 | 48 / 72 GB | – | – | 70B-Modelle, gpt-oss-120b (72 GB) | als Upgrade im Konfigurator beider KI Workstations |
VRAM, Bandbreite und Leistungsaufnahme (Grafikkarte) laut Datenblättern von NVIDIA und AMD. ECC bei der Radeon AI PRO R9700 nur unter Linux.
Wo die RTX 5070 Ti der Sweet Spot ist – und wo nicht
Für lokale Sprachmodelle bis etwa 14 Milliarden Parameter und gpt-oss-20b, für Bilder mit SDXL, für Transkription und für das Feinjustieren kleiner Modelle bietet die GeForce RTX 5070 Ti in unserem Sortiment aus unserer Sicht das beste Verhältnis aus Preis und Leistung. Die RTX 5080 hat denselben Grafikspeicher (16 GB) und nur rund 7 % mehr Bandbreite. Beim Erzeugen von Text, dessen Tempo vor allem an der Bandbreite hängt, ist darum kaum ein Unterschied zu erwarten. Rechenlastige Aufgaben wie Bildgenerierung mit Flux, KI-Video oder Training profitieren dagegen von rund 20 % mehr CUDA-Kernen und rund 28 % mehr KI-Rechenleistung laut NVIDIA. Und beim Gaming liefert die 5080 ohnehin mehr FPS.
Nicht mehr der Sweet Spot ist die 5070 Ti, sobald deine Modelle größer als 16 GB werden: 32B-Sprachmodelle, Flux in voller Größe oder längere KI-Videos. Dann zählt vor allem mehr Speicher. Und die Radeon RX 9070 XT? Im EPIC kostet sie gut 200 € weniger als die RTX 5070 Ti, hat gleich viel Speicher, aber rund 29 % weniger Bandbreite und unter Windows den umständlicheren Software-Weg für KI. Für reines Gaming ist sie ein starkes Angebot.
Was kannst du mit lokaler KI machen? Use Cases und Hardware-Bedarf
Von der privaten Recherche bis zum KI-Video: Diese Anwendungen laufen heute auf einem PC zu Hause. Die Angaben zeigen, ab wie viel Grafikspeicher es losgeht und womit es richtig Spaß macht.
Lokaler Chatbot
Fragen stellen, Texte schreiben, übersetzen – privat und offline, mit Programmen wie Ollama oder LM Studio und offenen Modellen wie Qwen3 oder gpt-oss.
Ab 12 GB (8B-Modelle) · bequem ab 16 GB (14B, gpt-oss-20b)
Eigene Dokumente befragen
Verträge, Handbücher oder Mitschriften durchsuchen und zusammenfassen lassen, ohne sie in eine Cloud hochzuladen – etwa mit Open WebUI oder AnythingLLM.
Ab 16 GB · lange Dokumente brauchen zusätzlichen Platz für den Kontext
Coding-Assistent
Ein Programmier-Helfer direkt im Code-Editor, der deinen Quellcode nie an fremde Server schickt – zum Beispiel über die Erweiterung Continue.
Ab 16 GB (14B) · bequem mit 32 GB (32B)
Bilder erzeugen
Mit Stable Diffusion oder Flux in ComfyUI erstellst du Bilder, Thumbnails oder Konzeptkunst, so oft du willst – ohne Bild-Abo. Details im Abschnitt Stable Diffusion PC.
Ab 12 GB (SDXL) · bequem ab 16 GB
KI-Video
Offene Videomodelle wie Wan 2.2 erzeugen kurze Clips aus Text oder Bildern. Laut Entwickler schafft das kompakte Modell TI2V-5B auf einer Consumer-Grafikkarte wie der RTX 4090 (24 GB) ein 5-Sekunden-Video in 720p in unter 9 Minuten.
Mit Kompromissen ab 16 GB · empfohlen 32 GB
Sprache und Untertitel
Interviews, Podcasts oder Vorlesungen lokal abtippen lassen. Das Spracherkennungsmodell Whisper von OpenAI braucht je nach Größe nur rund 1 bis 10 GB und läuft notfalls auch auf der CPU.
Ab 12 GB neben anderen Aufgaben · Modell "turbo" ca. 6 GB
Upscaling und Bildverbesserung
Alte Fotos und Videos per KI schärfen und hochrechnen. Für Videos und die Webcam hast du mit RTX Video Super Resolution sogar eine Lösung direkt von NVIDIA.
Jede aktuelle RTX-Karte · mehr VRAM für hohe Auflösungen
Streaming und VTubing
Gesichtstracking, Rauschfilter, Live-Untertitel und ein lokaler Chat-Helfer – alles gleichzeitig zum Spiel. Mehr im Abschnitt KI im Stream.
Ab 16 GB · viel Arbeitsspeicher hilft
Eigene Modelle trainieren
Vom ersten Python-Kurs bis zum feinjustierten Sprachmodell mit eigenem Stil. Was zu Hause realistisch ist, zeigt der Abschnitt KI-Training.
Lernen ab 12 GB · ernsthaft ab 32 GB
Stable Diffusion PC: Welche Grafikkarte für KI-Bilder?
Für Bildgeneratoren wie Stable Diffusion und Flux ist der Grafikspeicher die wichtigste Größe. Die Community-Dokumentation von ComfyUI nennt diese Richtwerte (Minimum / empfohlen):
- Stable Diffusion 1.5: 6 GB / 8 GB
- SDXL: 8 GB / 12 GB
- FLUX.1 schnell (FP8): 6 GB / 8 GB
- FLUX.1 dev in voller Größe: 16 GB / 24 GB
Damit ist ein Fertig-PC mit 16 GB VRAM die solide Basis für KI-Bilder: Bei HI-TECH sind das zum Beispiel der RTX5070TI SPECIAL DEAL mit GeForce RTX 5070 Ti, der FROSTBURN mit RTX 5070 Ti und 48 GB Arbeitsspeicher oder der EPIC, wahlweise mit Radeon RX 9070 XT. Wer Flux in voller Größe nutzen oder viele Bilder in hoher Auflösung erzeugen will, ist mit 32 GB wie in der KI Workstation R9700 auf der sicheren Seite. Unter Windows unterstützt ComfyUI auch AMD-Grafikkarten offiziell.
Wie schnell unsere Systeme Bilder erzeugen, messen wir gerade auf unserem Prüfstand. Die Werte ergänzen wir hier, sobald sie vorliegen.
Ollama: Welche Hardware brauchst du für lokale Sprachmodelle?
Ollama ist eines der beliebtesten Programme, um Sprachmodelle lokal zu starten. Laut offizieller Dokumentation unterstützt es NVIDIA-Grafikkarten ab Compute Capability 5.0 – damit sind alle GeForce-RTX-Karten abgedeckt. AMD-Karten wie die Radeon RX 9070 XT und die Radeon AI PRO R9700 werden unter Linux über ROCm angesprochen, unter Windows über die Vulkan-Schnittstelle. Reicht der Grafikspeicher nicht, lagert Ollama Teile des Modells in den Arbeitsspeicher (RAM) aus. Das funktioniert, macht die Antworten aber spürbar langsamer.
| Modellgröße | Beispiel (Größe) | GPU / VRAM | RAM im HI-TECH PC | Passender PC |
|---|---|---|---|---|
| bis 8B | Qwen3 8B (5,2 GB) | ab 12 GB, z. B. RTX 5070 | 32 GB DDR5 | SLEEK Black |
| 14B bis 20B | Qwen3 14B (9,3 GB), gpt-oss-20b (14 GB) | 16 GB, z. B. RTX 5070 Ti | 32 bis 48 GB DDR5 | RTX5070TI SPECIAL DEAL, FROSTBURN |
| 30B bis 32B | Qwen3 32B (20 GB) | 32 GB, z. B. Radeon AI PRO R9700 oder RTX PRO 4500 | 48 GB DDR5 | KI Workstation R9700, KI Workstation RTX PRO 4500 |
| 70B und größer | Llama 3.3 70B (43 GB), gpt-oss-120b (65 GB) | 48 bis 72 GB, RTX PRO 5000 | 48 GB DDR5 oder mehr | KI Workstation mit Upgrade im Konfigurator |
Quellen: Ollama GPU-Dokumentation und Ollama-Modellbibliothek, Stand Oktober 2026. Arbeitsspeicher laut Grundausstattung der genannten Modelle, im Konfigurator erweiterbar.
KI im Stream: Streaming und VTubing mit lokaler KI
Kaum ein Einsatz zeigt so gut, wie viel KI heute schon auf einem Gaming PC rechnet, wie ein moderner Stream. Spiel, Streaming-Software und mehrere KI-Helfer laufen gleichzeitig – und alle wollen Rechenleistung und Grafikspeicher.
- Avatar-Tracking: Der NVIDIA-Webcam-Tracker in VTube Studio überträgt deine Mimik auf den Avatar und rechnet größtenteils auf den Tensor Cores. Laut Entwickler lag die Last auf einer RTX 3080 bei 1080p und 60 FPS unter 10 % für CPU und GPU. Er läuft unter Windows mit RTX-Karten der Serien 20 bis 50.
- Saubere Stimme und Bild: NVIDIA Broadcast filtert Störgeräusche, entfernt Hall, ersetzt den Hintergrund und leuchtet dein Gesicht virtuell aus.
- Live-Untertitel und Übersetzung: Das OBS-Plugin LocalVocal schreibt mit, was du sagst, und übersetzt es live – lokal mit Whisper, ohne Cloud-Kosten.
- Lokaler Chat-Helfer: Ein lokales Sprachmodell kann Chat-Fragen zusammenfassen oder als Co-Moderator Antworten vorschlagen, ohne dass Chat-Daten an einen fremden Dienst gehen.
Wichtig für Radeon-Nutzer: Der NVIDIA-Tracker und NVIDIA Broadcast setzen eine RTX-Karte voraus. VTube Studio bietet aber auch andere Tracking-Wege, etwa einen MediaPipe-Webcam-Tracker oder das Tracking per iPhone.
Rechenbeispiel: das VRAM-Budget eines KI-Streams
Die Lösung muss nicht gleich eine Workstation sein. Viel bringt schon eine kluge Aufteilung: LocalVocal kommt laut Entwickler auch ohne Grafikkarte aus, und das kleinere Whisper-Modell "small" begnügt sich mit rund 2 GB. Ein FPS-Limit im Spiel schafft zusätzlich Luft für Tracking und Streaming-Software.
Wer alles gleichzeitig auf der Grafikkarte laufen lassen will, greift zu 16 GB VRAM und viel Arbeitsspeicher, etwa im FROSTBURN mit RTX 5070 Ti und 48 GB DDR5, empfohlen für 4K-Gaming und Streaming.
Passende Mikrofone, Kameras und Licht für deinen Stream findest du in unserem Streaming Equipment.
Eigene KI-Modelle trainieren: Was zu Hause realistisch ist
"Eigene KI trainieren" klingt nach Rechenzentrum. Tatsächlich ist zu Hause schon eine Menge möglich, solange du weißt, welche Stufe du anpeilst. Ganz große Modelle von Grund auf zu trainieren, bleibt den Rechenzentren vorbehalten. Ein bestehendes Modell auf deinen Stil, deine Daten oder dein Haustier anzupassen, schafft dagegen ein guter PC.
So viel Grafikspeicher braucht das Feinjustieren mindestens (laut Unsloth, einem verbreiteten Trainingswerkzeug; in der Praxis darf es etwas mehr sein):
| Modellgröße | QLoRA (4 Bit) | LoRA (16 Bit) | Realistisch mit … |
|---|---|---|---|
| 8B | 6 GB | 22 GB | 16 GB (QLoRA), 32 GB (LoRA) |
| 14B | 8,5 GB | 33 GB | 16 GB (QLoRA) |
| 27B | 22 GB | 64 GB | 32 GB (QLoRA) |
| 32B | 26 GB | 76 GB | 32 GB (QLoRA) |
| 70B | 41 GB | 164 GB | 48 GB (QLoRA, RTX PRO 5000) |
NVIDIA oder AMD fürs Training? Unter Windows ist NVIDIA hier klar der einfachere Weg: Unsloth Studio etwa setzt für das Training unter Windows eine NVIDIA-Grafikkarte voraus. Wer ernsthaft trainieren will, ist darum mit der KI Workstation RTX PRO 4500 gut beraten. Die KI Workstation R9700 ist der günstigere Einstieg in 32 GB, beim Training aber eher etwas für Linux-Kenner.
Warum Profikarten beim Training punkten: Trainingsläufe dauern Stunden oder Tage. Fehlerkorrigierender Speicher (ECC) schützt vor seltenen Bitfehlern, und die Effizienz macht sich auf der Stromrechnung bemerkbar. Ein Beispiel für einen 10-stündigen Trainingslauf unter Volllast, nur Grafikkarte, bei 37 Cent pro Kilowattstunde:
- NVIDIA RTX PRO 4500 (200 W): 2 kWh = rund 0,74 €
- GeForce RTX 5090 (575 W): 5,75 kWh = rund 2,13 €
Rechenbeispiele: Was kostet lokale KI – und was sparst du?
Für alle Stromrechnungen verwenden wir den durchschnittlichen Haushaltsstrompreis in Deutschland von 37,0 Cent pro Kilowattstunde (BDEW, August 2026). Die Formel zum Selbstrechnen: Watt × Stunden ÷ 1.000 = Kilowattstunden, mal deinem Strompreis.
1. Tokens kaufen oder lokal rechnen?
Annahme: Ein Vielnutzer arbeitet mit einem KI-Coding-Agenten. Pro Arbeitstag fallen 5 Millionen Input-Tokens (davon 80 % aus dem günstigeren Cache) und 0,5 Millionen Output-Tokens an, bei 21 Arbeitstagen im Monat. Zum Vergleich: ein Token entspricht grob einem Wort-Stück.
- OpenAI gpt-6.1-sol (2 $ Input, 0,10 $ Cache, 10 $ Output je 1 Mio. Tokens): 7,40 $ pro Tag, also rund 155 $ im Monat.
- OpenAI gpt-6-astra, das Flaggschiff (10 $ / 1 $ / 50 $): 39 $ pro Tag, also rund 819 $ im Monat.
- Lokal: Der PC zieht unter KI-Last großzügig gerechnet 400 W. 8 Stunden × 21 Tage = 67,2 kWh, also rund 25 € Strom im Monat.
Wichtig, damit kein falscher Eindruck entsteht: Lokale Modelle und die besten Cloud-Modelle sind nicht gleichwertig. Die stärksten Modelle von OpenAI, Google und Co. laufen auf Rechenzentrums-Hardware, die kein Heim-PC bietet, und liefern bei komplexen Aufgaben wie schwierigem Programmieren, langen Analysen oder aktuellem Wissen meist die besseren Ergebnisse. Selbst OpenAI ordnet sein offenes gpt-oss-20b auf dem Niveau des kleineren o3-mini ein, nicht auf dem seiner Flaggschiff-Modelle. Für viele Alltagsaufgaben wie Zusammenfassen, Entwürfe, Übersetzen oder Code-Hilfe ist ein lokales 14B- oder 32B-Modell trotzdem sehr gut geeignet. Die Rechnung zeigt also, was Token-Kosten bei intensiver Nutzung ausmachen können – nicht, dass lokale KI ein vollwertiger Ersatz für die Spitzenmodelle der Cloud ist.
2. Der Abo-Stapel
Ein Chat-Abo wie ChatGPT Plus kostet 20 $ im Monat zuzüglich Steuern, ein Bild-Abo wie Midjourney Standard 30 $ im Monat. Zusammen sind das über 50 $ im Monat oder über 600 $ im Jahr. Gerade das Bild-Abo lässt sich mit Stable Diffusion oder Flux auf einer 16-GB-Grafikkarte gut ersetzen. Beim Chat-Abo kommt es darauf an, ob dir ein lokales Modell reicht oder du die Spitzenmodelle der Cloud brauchst.
3. "Du kaufst den Gaming PC sowieso"
Am meisten lohnt sich lokale KI, wenn du ohnehin einen Gaming PC kaufst. Dann ist KI ein Bonus ohne Aufpreis. Am Beispiel unseres Topsellers EPIC (ab rund 3.700 €, Grundausstattung RTX 5070 Ti; Aufpreise gerundet, Stand Oktober 2026, aktuelle Preise im Konfigurator):
Zum Vergleich: Die KI Workstation R9700 bringt 32 GB Grafikspeicher für insgesamt rund 5.300 € mit. Wer vor allem große Modelle braucht und nicht auf maximale Gaming-Leistung angewiesen ist, kommt so deutlich günstiger an 32 GB.
4. Strom im Dauerbetrieb
Läuft die Grafikkarte ein Jahr lang 8 Stunden am Tag unter Volllast, etwa für Training oder viele Bildserien, ergibt sich nur für die Grafikkarte:
- NVIDIA RTX PRO 4500 (200 W): 584 kWh, rund 216 € im Jahr
- GeForce RTX 5090 (575 W): 1.679 kWh, rund 621 € im Jahr
Die RTX 5090 ist dafür schneller. Wer aber über Jahre viele Stunden rechnen lässt, spart mit der sparsamen Profikarte jedes Jahr rund 400 € Strom.
Wann sich lokale KI nicht rechnet: Wenn du nur gelegentlich eine Frage stellst, wenn du zwingend die stärksten Cloud-Modelle brauchst oder wenn du keinen leistungsstarken PC besitzt und auch keinen fürs Gaming kaufen würdest. Dann ist ein Abo die günstigere Wahl – und das sagen wir dir auch so.
Gaming PC oder KI Workstation? In drei Fragen zu deinem KI-PC
1. Spielst du auch?
Ja? Dann ist ein Gaming PC mit 16 GB VRAM der natürliche Startpunkt. Die RTX 5070 Ti deckt die meisten KI-Einsteiger-Aufgaben ab, die RTX 5080 bringt mehr FPS und mehr Tempo bei Bildern.
2. Wie groß sollen deine Modelle sein?
Bis etwa 14B und gpt-oss-20b, SDXL-Bilder und Untertitel: 16 GB reichen. 32B-Modelle, Flux in voller Größe, KI-Video oder ernsthaftes Training: Dann brauchst du 32 GB.
3. Brauchst du CUDA oder Training unter Windows?
Ja? Dann führt der Weg zu NVIDIA, etwa zur KI Workstation RTX PRO 4500. Zählt vor allem der Preis pro Gigabyte, ist die KI Workstation R9700 der günstigste Einstieg in 32 GB.
Alle hier genannten Systeme mit aktuellen Preisen – vom Einstieg mit 12 GB bis zur KI Workstation:
Wie bei allen HI-TECH Systemen kannst du jeden PC im Konfigurator an deine Anforderungen anpassen, zum Beispiel mit mehr Arbeitsspeicher oder einer stärkeren Grafikkarte. Seit 1986 geht es uns darum, dass du genau den PC bekommst, den du brauchst. Alle Modelle für lokale KI findest du in unserer Kategorie KI Workstations, individuelle Wünsche besprechen wir unter PC in Wunschkonfiguration kaufen. Auf Wunsch zahlst du bequem in Raten über unsere Finanzierungspartner: Ratenkauf in Deutschland oder Ratenkauf in Österreich.
Modelle werden effizienter: Was gestern Rechenzentrum war
Ende Januar 2025 hat das chinesische Unternehmen DeepSeek die KI-Welt aufgerüttelt: Es zeigte, dass leistungsfähige Modelle mit deutlich weniger Aufwand entstehen können als gedacht. Hier findest du einen leicht verständlichen Artikel dazu, der den Hype auch kritisch einordnet.
Seitdem geht es in dieselbe Richtung weiter. Im August 2025 hat OpenAI mit gpt-oss erstmals seit über fünf Jahren wieder offene Sprachmodelle veröffentlicht, unter der freien Lizenz Apache 2.0. Laut OpenAI erreicht gpt-oss-20b bei gängigen Tests ähnliche Ergebnisse wie das Cloud-Modell o3-mini und braucht dabei nur 16 GB Speicher. Was Anfang 2025 noch der Cloud vorbehalten war, passt heute also auf eine 16-GB-Grafikkarte im Gaming PC.
„Placing an AI supercomputer on the desks of every data scientist, AI researcher and student empowers them to engage and shape the age of AI.“
Jensen Huang, Gründer und CEO von NVIDIA, bei der Vorstellung von Project DIGITS am 6. Januar 2025 (NVIDIA Newsroom). Sinngemäß: Ein KI-Supercomputer auf jedem Schreibtisch versetzt Forschende und Studierende in die Lage, das KI-Zeitalter mitzugestalten.
Auch AMD-Chefin Lisa Su brachte es in ihrer Keynote auf der CES am 5. Januar 2026 auf eine kurze Formel: „AI is for everyone.“ – KI ist für alle da. Für uns heißt das: Lokale KI wird nicht exklusiver, sondern zugänglicher. Wir halten diese Seite dazu auf dem Laufenden.
FAQ zu KI-Hardware und lokaler KI
Antwort: Das hängt von der Modellgröße ab. Ein 8B-Modell wie Qwen3 8B belegt rund 5,2 GB und läuft ab 12 GB VRAM. Für 14B-Modelle und gpt-oss-20b sind 16 GB ideal, für 32B-Modelle 32 GB. Reicht der Grafikspeicher nicht, lagert Ollama Teile in den Arbeitsspeicher aus, was die Antworten spürbar verlangsamt.
Antwort: Ja. Mit 16 GB VRAM liegt die RTX 5070 Ti deutlich über den empfohlenen 12 GB für SDXL und reicht auch für viele Flux-Varianten. Nur für FLUX.1 dev in voller Größe werden 24 GB empfohlen, dafür sind Karten mit 32 GB die sichere Wahl.
Antwort: Ja, mit Einschränkungen (Stand Oktober 2026). ComfyUI unterstützt AMD-Karten unter Windows offiziell über ROCm, Ollama nutzt für Radeon RX 9070 XT und Radeon AI PRO R9700 unter Windows die Vulkan-Schnittstelle. Beim Training ist NVIDIA unter Windows klar der einfachere Weg. Unser Sales Team klärt die Kompatibilität für dein Programm gerne vorab.
Antwort: Nein. Im Desktop-PC erledigt die Grafikkarte die KI-Arbeit um Größenordnungen schneller. Die NPU im Prozessor ist für kleine, stromsparende Daueraufgaben gedacht, vor allem im Laptop. Für die Copilot+-Funktionen von Windows verlangt Microsoft eine NPU mit mindestens 40 TOPS.
Antwort: DLSS 5 ist NVIDIAs "3D-Guided Neural Rendering": Eine KI verfeinert Licht und Materialien im fertigen Bild für mehr Realismus. Es ist seit September 2026 verfügbar und läuft nur auf Grafikkarten der GeForce-RTX-50-Serie. Ältere RTX-Karten nutzen weiterhin DLSS Super Resolution und Ray Reconstruction, die RTX 40 zusätzlich Frame Generation.
Antwort: TOPS steht für Tera Operations per Second, also Billionen Rechenoperationen pro Sekunde. Die einzelnen Matrixmultiplikationen für neuronale Netze sind sehr simpel, ihre Anzahl ist aber enorm. Vorsicht beim Vergleichen: Hersteller geben TOPS in unterschiedlichen Rechenformaten an.
Antwort: Für Gelegenheitsnutzer meist nicht. Lokale KI lohnt sich bei intensiver Nutzung, bei vielen Bildern, bei sensiblen Daten und wenn du ohnehin einen leistungsstarken Gaming PC kaufst. Dann zahlst du statt Abo- oder Token-Kosten nur den Strom. Die besten Cloud-Modelle erreichen lokale Modelle allerdings nicht ganz.
Antwort: Ja, in Grenzen. Mit 16 GB VRAM kannst du Sprachmodelle bis etwa 14B per QLoRA feinjustieren und Bild-LoRAs trainieren. Für 32B-Modelle brauchst du rund 26 GB, also eine Karte mit 32 GB. Große Modelle von Grund auf zu trainieren, bleibt Rechenzentren vorbehalten.
Antwort: Das hängt vor allem von der Grafikkarte ab. Die RTX 5070 Ti ist mit 300 W angegeben, die RTX 5090 mit 575 W, die NVIDIA RTX PRO 4500 mit nur 200 W. Eine Stunde Volllast der RTX 5090 kostet bei 37 Cent pro Kilowattstunde rund 21 Cent, bei der RTX PRO 4500 rund 7 Cent.
Antwort: Eine KI Workstation setzt auf Profi-Grafikkarten mit 32 GB fehlerkorrigierendem Speicher (ECC) und ist für lange Rechenläufe ausgelegt. Ein Gaming PC liefert mehr Spieleleistung pro Euro und reicht mit 16 GB VRAM für viele KI-Anwendungen. Die schnellste Karte für lokale Sprachmodelle ist übrigens die GeForce RTX 5090 – die Profikarten punkten mit Speicher, Effizienz und ECC.
Antwort: Für Sprachmodelle sind Ollama und LM Studio verbreitete Einstiegsprogramme, für Bilder ComfyUI. Alle laufen unter Windows, mit dem wir unsere PCs ausliefern. Nach der Installation lädst du ein Modell herunter und kannst loslegen. Bei AMD-Grafikkarten nutzt Ollama unter Windows die Vulkan-Schnittstelle.
Antwort: Ja. Sobald ein Modell heruntergeladen ist, läuft es komplett auf deinem PC, auch ohne Internetverbindung, und deine Eingaben verlassen den Rechner nicht. Achte nur bei Zusatzprogrammen und Erweiterungen darauf, dass sie nicht selbst wieder Cloud-Dienste ansprechen.
Antwort: Entscheidend ist zuerst der Grafikspeicher. Der Arbeitsspeicher springt ein, wenn ein Modell nicht komplett in den VRAM passt – das funktioniert, ist aber deutlich langsamer. Unsere Gaming PCs starten mit 32 GB DDR5, der FROSTBURN und die KI Workstations mit 48 GB. Für Streaming plus KI oder große Modelle mit Auslagerung kannst du im Konfigurator aufstocken.
Quellen und weiterführende Links
- Grafikkarten-Daten: NVIDIA GeForce Vergleich, AMD Radeon RX 9070 XT, AMD Radeon AI PRO R9700, NVIDIA RTX PRO 4500 Blackwell (Datenbank)
- Gaming-KI: NVIDIA DLSS – unterstützte Hardware, NVIDIA: DLSS 5, NVIDIA: DLSS-5-Update Oktober 2026, TechSpot: AMD FSR Redstone, NVIDIA Broadcast
- Software und Modelle: Ollama GPU-Dokumentation, Ollama-Modellbibliothek, OpenAI: gpt-oss, OpenAI Whisper, Wan 2.2, ComfyUI Wiki: GPU-Ratgeber, ComfyUI: AMD ROCm unter Windows, Unsloth: Hardware-Anforderungen
- Streaming: VTube Studio: NVIDIA-Webcam-Tracker, OBS-Plugin LocalVocal
- NPU: Microsoft: NPU-Geräte und Copilot+
- Preise: BDEW-Strompreisanalyse, OpenAI API-Preise, Midjourney-Pläne (alle Stand Oktober 2026)
- Hintergrund: Davies et al. (2025): Efficient LLM Inference, Tensor-Berechnungen (Computer Physics Communications), Neural Processing Units (Advances in Computers)
Unser Supportteam hilft dir gerne bei der Wahl deiner KI-Hardware – egal ob Gaming PC mit KI-Bonus oder KI Workstation.