Abbildung: KI Workstation R9700 im Fractal Design North XL.
KI Workstation · AMD ROCm
KI Workstation mit AMD Radeon AI PRO R9700 (32 GB)
Einstieg in lokale KI mit 32 GB Grafikspeicher auf AMD-Basis – für Teams, deren Software ROCm unterstützt.
- Grafikkarte
- AMD Radeon AI PRO R9700
- Grafikspeicher
- 32 GB GDDR6, ECC unter Linux
- Prozessor
- AMD Ryzen 9 9950X, 16 Kerne / 32 Threads
- Arbeitsspeicher
- 48 GB DDR5-6000 (2 × 24 GB)
- SSD
- 4 TB M.2 NVMe SSD (Lexar NQ790)
- Mainboard
- MSI PRO X870E-P WIFI (AM5)
- CPU-Kühlung
- 360-mm-AIO-Wasserkühlung
- Netzteil
- 1000 W
- Gehäuse
- Fractal Design North XL, schwarz
- Betriebssystem
- Windows 11 Pro vorinstalliert, Linux nach Vereinbarung
- Gewährleistung
- 24 Monate Gewährleistung
Aktueller Preis, Konfiguration und Bestellung im HI-TECH-Onlineshop auf hitech-gamer.com. Individuelle Angebote für Unternehmen und für mehrere Systeme auf Anfrage.
Wofür eignet sich diese Workstation?
- Sprachmodelle bis etwa 14 Mrd. Parameter in 8 Bit oder bis etwa 32 Mrd. Parameter in 4 Bit mit moderater Kontextlänge
- Interne Assistenten und Dokumentensuche (RAG) für kleinere Teams
- Entwicklung und Tests mit PyTorch unter Linux mit ROCm
Richtwerte für den Betrieb auf einer GPU. Entscheidend sind Software, Modell, Quantisierung, Kontextlänge und die Zahl gleichzeitiger Anfragen. Bedarf mit dem VRAM-Rechner prüfen
Wo liegen die Grenzen?
- Sprachmodelle mit 70 Mrd. Parametern passen auch in 4 Bit nicht in 32 GB.
- Software, die ausschließlich CUDA unterstützt, läuft auf AMD-Grafikkarten nicht oder nur eingeschränkt.
- Die ROCm-Unterstützung ist unter Linux am breitesten; unter Windows ist sie im Einzelfall zu prüfen.
Mehr Reserve bietet die KI Workstation RTX PRO 5000 · 48 GB. Für Multi-GPU-Systeme und andere Bauformen fragen Sie eine individuelle Lösung an.
Software & Plattform
AMD-Grafikkarten nutzen ROCm. PyTorch und viele Inferenz-Werkzeuge unterstützen ROCm, nicht aber jede Anwendung. Prüfen Sie vor dem Kauf, ob Ihre Software und die gewünschte Version ROCm auf dieser Grafikkarte unterstützen – am breitesten ist die Unterstützung unter Linux.
NVIDIA und AMD im VergleichGrafikkarte: Eckdaten
- Grafikspeicher
- 32 GB GDDR6, ECC unter Linux
- Speicherbandbreite
- 640 GB/s
- Recheneinheiten
- 64 Compute Units, 128 KI-Beschleuniger
- Leistungsaufnahme (Karte)
- bis 300 W
Herstellerangaben laut HI-TECH-Onlineshop. Die Speicherbandbreite beeinflusst maßgeblich, wie schnell ein Sprachmodell Text erzeugt.
Qualität & Service
Wir installieren das vereinbarte Betriebssystem und passende Treiber. Hardware-Belastungstests vor Auslieferung gehören zu unserer Qualitätskontrolle. Bei technischen Problemen mit dem gelieferten System steht Ihnen unser Team in Traun zur Verfügung.
Mehr über Qualität & ServiceVergleich mit den anderen Modellen
| Modell | VRAM pro GPU | Plattform | CPU | RAM | SSD | Preis | Geeignet für (Auszug) |
|---|---|---|---|---|---|---|---|
| Radeon AI PRO R9700 · 32 GB | 32 GB | ROCm | AMD Ryzen 9 9950X | 48 GB DDR5 | 4 TB M.2 SSD | im Onlineshop | Sprachmodelle bis etwa 14 Mrd. Parameter in 8 Bit oder bis etwa 32 Mrd. Parameter in 4 Bit mit moderater Kontextlänge |
| RTX PRO 4500 · 32 GB | 32 GB | CUDA | AMD Ryzen 9 9950X | 48 GB DDR5 | 4 TB M.2 SSD | im Onlineshop | Sprachmodelle bis etwa 14 Mrd. Parameter in 8 Bit oder bis etwa 32 Mrd. Parameter in 4 Bit mit moderater Kontextlänge |
| RTX PRO 5000 · 48 GB | 48 GB | CUDA | AMD Ryzen 9 9950X | 64 GB DDR5 | 4 TB M.2 SSD | im Onlineshop | Sprachmodelle bis etwa 32 Mrd. Parameter in 8 Bit oder in 4 Bit mit langem Kontext |
| RTX PRO 5000 · 72 GB | 72 GB | CUDA | AMD Ryzen 9 9950X | 128 GB DDR5 | 4 TB M.2 SSD | im Onlineshop | Sprachmodelle mit rund 70 Mrd. Parametern in 4 Bit, auch mit Kontextlängen um 32.000 Token |
Ihre Anforderungen.
Ihre individuelle Lösung.
Unsere vorkonfigurierten KI Workstations bieten Ihnen einen direkten Einstieg. Sie benötigen eine andere Ausstattung oder Bauform?
Ob Multi-GPU-System für größere lokale Sprachmodelle, 19″-Racklösung oder individuell abgestimmte Hardware: Besprechen Sie Ihre Anforderungen mit uns. Gemeinsam klären wir die technischen Möglichkeiten und erstellen ein passendes Angebot für Ihr Vorhaben.
Individuelle Lösung anfragen- Multi-GPUMehrere Grafikkarten für größere Modelle oder parallele Aufgaben
- 19″-RackBauform für Serverraum und Rechenzentrum
- WunschkonfigurationProzessor, Arbeits- und Massenspeicher nach Bedarf
Passt die KI Workstation Radeon AI PRO R9700 · 32 GB zu Ihrem Vorhaben?
Beschreiben Sie uns Software, Modelle und Einsatzzweck. Unser Sales-Team klärt mit Ihnen die Anforderungen und erstellt ein passendes Angebot.
- Anforderungen schildernSoftware, Modelle, Nutzerzahl, Budgetrahmen
- Technisch abstimmenWir prüfen Ausstattung und Machbarkeit
- Angebot erhaltenKonfiguration, Fertigung und Prüfung in Traun