Abbildung: Gehäuse be quiet! Silent Base 802 in Schwarz.
KI Workstation · NVIDIA CUDA
KI Workstation mit NVIDIA RTX PRO 5000 (72 GB)
72 GB Grafikspeicher auf einer Karte – für Sprachmodelle mit rund 70 Mrd. Parametern in 4 Bit mit langem Kontext.
- Grafikkarte
- NVIDIA RTX PRO 5000
- Grafikspeicher
- 72 GB GDDR7 mit ECC
- Prozessor
- AMD Ryzen 9 9950X, 16 Kerne / 32 Threads
- Arbeitsspeicher
- 128 GB DDR5-5600 (2 × 64 GB)
- SSD
- 4 TB M.2 NVMe SSD (Lexar NQ790)
- Mainboard
- MSI PRO X870E-P WIFI (AM5)
- CPU-Kühlung
- 360-mm-AIO-Wasserkühlung
- Netzteil
- 1000 W
- Gehäuse
- be quiet! Silent Base 802, schallgedämmt, schwarz
- Betriebssystem
- Windows 11 Pro vorinstalliert, Linux nach Vereinbarung
- Gewährleistung
- 24 Monate Gewährleistung
Aktueller Preis, Konfiguration und Bestellung im HI-TECH-Onlineshop auf hitech-gamer.com. Individuelle Angebote für Unternehmen und für mehrere Systeme auf Anfrage.
Wofür eignet sich diese Workstation?
- Sprachmodelle mit rund 70 Mrd. Parametern in 4 Bit, auch mit Kontextlängen um 32.000 Token
- Sprachmodelle bis etwa 32 Mrd. Parameter in 8 Bit mit vielen gleichzeitigen Anfragen
- QLoRA-Fine-Tuning von Modellen mit rund 70 Mrd. Parametern, je nach Sequenzlänge und Batchgröße
Richtwerte für den Betrieb auf einer GPU. Entscheidend sind Software, Modell, Quantisierung, Kontextlänge und die Zahl gleichzeitiger Anfragen. Bedarf mit dem VRAM-Rechner prüfen
Wo liegen die Grenzen?
- Sprachmodelle mit 70 Mrd. Parametern in 8 Bit oder höher benötigen mehr als 72 GB und damit mehrere Grafikkarten.
- Ein 32-Mrd.-Modell in voller BF16-Genauigkeit belegt bereits rund 65 GB und lässt kaum Reserve für Kontext.
Für Multi-GPU-Systeme und andere Bauformen fragen Sie eine individuelle Lösung an.
Software & Plattform
NVIDIA-Grafikkarten nutzen CUDA. Nahezu alle gängigen KI-Frameworks und Inferenz-Werkzeuge unterstützen CUDA unter Linux und Windows. Achten Sie auf die passende Treiber- und CUDA-Version Ihrer Software; wir installieren die Treiber passend zur vereinbarten Konfiguration.
NVIDIA und AMD im VergleichGrafikkarte: Eckdaten
- Grafikspeicher
- 72 GB GDDR7 mit ECC
- Speicherbandbreite
- 1.344 GB/s
- Recheneinheiten
- 14.080 CUDA-Kerne, Tensor-Kerne der 5. Generation
- Leistungsaufnahme (Karte)
- bis 300 W
Herstellerangaben laut HI-TECH-Onlineshop. Die Speicherbandbreite beeinflusst maßgeblich, wie schnell ein Sprachmodell Text erzeugt.
Qualität & Service
Wir installieren das vereinbarte Betriebssystem und passende Treiber. Hardware-Belastungstests vor Auslieferung gehören zu unserer Qualitätskontrolle. Bei technischen Problemen mit dem gelieferten System steht Ihnen unser Team in Traun zur Verfügung.
Mehr über Qualität & ServiceVergleich mit den anderen Modellen
| Modell | VRAM pro GPU | Plattform | CPU | RAM | SSD | Preis | Geeignet für (Auszug) |
|---|---|---|---|---|---|---|---|
| Radeon AI PRO R9700 · 32 GB | 32 GB | ROCm | AMD Ryzen 9 9950X | 48 GB DDR5 | 4 TB M.2 SSD | im Onlineshop | Sprachmodelle bis etwa 14 Mrd. Parameter in 8 Bit oder bis etwa 32 Mrd. Parameter in 4 Bit mit moderater Kontextlänge |
| RTX PRO 4500 · 32 GB | 32 GB | CUDA | AMD Ryzen 9 9950X | 48 GB DDR5 | 4 TB M.2 SSD | im Onlineshop | Sprachmodelle bis etwa 14 Mrd. Parameter in 8 Bit oder bis etwa 32 Mrd. Parameter in 4 Bit mit moderater Kontextlänge |
| RTX PRO 5000 · 48 GB | 48 GB | CUDA | AMD Ryzen 9 9950X | 64 GB DDR5 | 4 TB M.2 SSD | im Onlineshop | Sprachmodelle bis etwa 32 Mrd. Parameter in 8 Bit oder in 4 Bit mit langem Kontext |
| RTX PRO 5000 · 72 GB | 72 GB | CUDA | AMD Ryzen 9 9950X | 128 GB DDR5 | 4 TB M.2 SSD | im Onlineshop | Sprachmodelle mit rund 70 Mrd. Parametern in 4 Bit, auch mit Kontextlängen um 32.000 Token |
Ihre Anforderungen.
Ihre individuelle Lösung.
Unsere vorkonfigurierten KI Workstations bieten Ihnen einen direkten Einstieg. Sie benötigen eine andere Ausstattung oder Bauform?
Ob Multi-GPU-System für größere lokale Sprachmodelle, 19″-Racklösung oder individuell abgestimmte Hardware: Besprechen Sie Ihre Anforderungen mit uns. Gemeinsam klären wir die technischen Möglichkeiten und erstellen ein passendes Angebot für Ihr Vorhaben.
Individuelle Lösung anfragen- Multi-GPUMehrere Grafikkarten für größere Modelle oder parallele Aufgaben
- 19″-RackBauform für Serverraum und Rechenzentrum
- WunschkonfigurationProzessor, Arbeits- und Massenspeicher nach Bedarf
Passt die KI Workstation RTX PRO 5000 · 72 GB zu Ihrem Vorhaben?
Beschreiben Sie uns Software, Modelle und Einsatzzweck. Unser Sales-Team klärt mit Ihnen die Anforderungen und erstellt ein passendes Angebot.
- Anforderungen schildernSoftware, Modelle, Nutzerzahl, Budgetrahmen
- Technisch abstimmenWir prüfen Ausstattung und Machbarkeit
- Angebot erhaltenKonfiguration, Fertigung und Prüfung in Traun