Abbildung: ASUS Ascent GX10. Die NVIDIA DGX Spark Founders Edition hat ein eigenes Gehäusedesign.
Kompaktes KI-System · NVIDIA GB10 Grace Blackwell Superchip
NVIDIA DGX Spark – ASUS Ascent GX10 und NVIDIA Founders Edition
128 GB einheitlicher Speicher und der NVIDIA-KI-Software-Stack unter Linux – für die Entwicklung und den Test großer Sprachmodelle am Arbeitsplatz.
- Chip
- NVIDIA GB10 Grace Blackwell Superchip
- Prozessor
- 20 Arm-Kerne (10 × Cortex-X925, 10 × Cortex-A725)
- Grafik
- NVIDIA Blackwell, 6.144 CUDA-Kerne, Tensor Cores der 5. Generation
- Speicher
- 128 GB LPDDR5X, einheitlich (CPU und GPU teilen sich den Speicher)
- Speicherbandbreite
- 273 GB/s
- KI-Rechenleistung
- bis 1 PFLOP FP4 (mit Sparsity)
- Betriebssystem
- NVIDIA DGX OS (Linux auf Ubuntu-Basis, Arm64)
- Netzwerk
- 10-Gbit-Ethernet, Wi-Fi 7, NVIDIA ConnectX-7 (zwei Geräte koppelbar)
- Abmessungen
- 150 × 150 × 51 mm, 1,2 bis 1,6 kg
- Stromversorgung
- Netzteil 240 W
Herstellerangaben laut HI-TECH-Onlineshop auf hitech-gamer.com. Fertiggeräte von NVIDIA und ASUS; Angebote für mehrere Geräte auf Anfrage.
Varianten
| Modell | Speicher | SSD | Betriebssystem | Hersteller-Nr. | Preis |
|---|---|---|---|---|---|
| NVIDIA DGX Spark Founders Edition · EU-Ausführung von PNY; 2 Jahre eingeschränkte Herstellergarantie | 128 GB | 4 TB NVMe, selbstverschlüsselnd | NVIDIA DGX OS, vorinstalliert | DGXSPARK-FOUNEDIT-EU 940-54242-0005-000 |
im Onlineshop |
| ASUS Ascent GX10 · 1 TB | 128 GB | 1 TB NVMe (PCIe 4.0) | NVIDIA DGX OS | GX10-GG0003BN 90MS0371-M00030 |
im Onlineshop |
| ASUS Ascent GX10 · 2 TB | 128 GB | 2 TB NVMe (PCIe 4.0) | NVIDIA DGX OS | GX10-GG0026BN 90MS0371-M000U0 |
im Onlineshop |
| ASUS Ascent GX10 · 4 TB | 128 GB | 4 TB NVMe (PCIe 5.0) | NVIDIA DGX OS | GX10-GG0027BN 90MS0371-M000V0 |
im Onlineshop |
Wofür eignet sich DGX Spark?
- Sprachmodelle bis etwa 70 Mrd. Parameter in 8 Bit sowie Mixture-of-Experts-Modelle wie gpt-oss-120b auf einem Gerät
- Entwicklung, Prototypen und Tests von KI-Anwendungen und Agenten mit dem NVIDIA-Software-Stack
- Fine-Tuning mit LoRA oder QLoRA bis etwa 70 Mrd. Parameter (Herstellerangabe), wenn die Laufzeit zweitrangig ist
- Zwei gekoppelte Geräte für Modelle bis etwa 405 Mrd. Parameter in 4 Bit (Herstellerangabe)
Wo liegen die Grenzen?
- Die Speicherbandbreite von 273 GB/s begrenzt die Textausgabe: große dichte Modelle erzeugen nur wenige Token pro Sekunde.
- Für viele gleichzeitige Nutzer ist ein Server oder eine Workstation mit leistungsstarker Grafikkarte besser geeignet.
- Arm64-Linux: Windows-Software und x86-Programme laufen nicht; Container und Bibliotheken müssen für Arm64 verfügbar sein.
- Speicher und Grafikeinheit sind fest verbaut und lassen sich nicht aufrüsten.
Mehr Tempo und mehrere gleichzeitige Nutzer: KI Workstations mit eigener Grafikkarte. Die Unterschiede erklärt der Artikel Spark oder KI Workstation?
Software und Plattform
DGX Spark läuft mit NVIDIA DGX OS, einem Linux auf Ubuntu-Basis für die Arm64-Architektur. CUDA, Container und der NVIDIA-KI-Software-Stack sind auf das Gerät abgestimmt. Gängige Werkzeuge wie PyTorch, vLLM, llama.cpp und Ollama gibt es für diese Plattform. Prüfen Sie vor dem Kauf, ob Ihre eigenen Programme, Bibliotheken und Container für Arm64 verfügbar sind. Software, die nur für x86 oder Windows erhältlich ist, läuft auf DGX Spark nicht.
Zwei Geräte koppeln
Über die eingebaute ConnectX-7-Netzwerkkarte lassen sich zwei DGX-Spark-Geräte direkt verbinden. Gemeinsam stehen dann 256 GB Speicher bereit. Das erweitert die mögliche Modellgröße, macht die Textausgabe aber nicht schneller. Planen Sie die Kopplung nur, wenn ein Modell auf einem Gerät nicht mehr Platz hat.
Founders Edition oder ASUS Ascent GX10?
Beide basieren auf derselben Plattform und erreichen dieselbe Rechenleistung. Die NVIDIA Founders Edition wird in der EU von PNY vertrieben, hat eine selbstverschlüsselnde 4-TB-SSD und kommt mit vorinstalliertem DGX OS. Der ASUS Ascent GX10 ist mit 1, 2 oder 4 TB erhältlich. Gehäuse, Gewicht und Garantiebedingungen unterscheiden sich je nach Hersteller.
Welche Modellgrößen passen in den Speicher?
Richtwerte nach derselben Berechnung wie unser VRAM-Rechner. Weil sich Betriebssystem, Anwendungen und Modell den Speicher teilen, rechnen wir hier mit 80 % des Gesamtspeichers.
| Modellgröße (Beispiel) | Genauigkeit | Bedarf ca. | 128 GB |
|---|---|---|---|
| 8 Mrd. Parameter (Llama 3.1 8B) | 4 Bit | 7 | passt |
| 8 Mrd. Parameter (Llama 3.1 8B) | 8 Bit | 11 | passt |
| 8 Mrd. Parameter (Llama 3.1 8B) | BF16 | 19 | passt |
| 14 Mrd. Parameter (Qwen2.5 14B) | 4 Bit | 12 | passt |
| 14 Mrd. Parameter (Qwen2.5 14B) | 8 Bit | 19 | passt |
| 14 Mrd. Parameter (Qwen2.5 14B) | BF16 | 33 | passt |
| 32 Mrd. Parameter (Qwen2.5 32B) | 4 Bit | 23 | passt |
| 32 Mrd. Parameter (Qwen2.5 32B) | 8 Bit | 38 | passt |
| 32 Mrd. Parameter (Qwen2.5 32B) | BF16 | 69 | passt |
| 70 Mrd. Parameter (Llama 3.3 70B) | 4 Bit | 47 | passt |
| 70 Mrd. Parameter (Llama 3.3 70B) | 8 Bit | 79 | passt |
| 70 Mrd. Parameter (Llama 3.3 70B) | BF16 | 145 | – |
Fragen und Antworten
Welche Variante von DGX Spark soll ich wählen?
Chip, Speicher und Rechenleistung sind bei allen Varianten gleich. Sie unterscheiden sich vor allem in der SSD-Größe und im Hersteller. Für viele große Modelle und Datensätze empfehlen wir 4 TB; die NVIDIA Founders Edition hat eine selbstverschlüsselnde 4-TB-SSD.
Läuft Windows auf DGX Spark?
Nein. DGX Spark ist für NVIDIA DGX OS ausgelegt, ein Linux auf Ubuntu-Basis für Arm64. Wer Windows braucht, wählt RTX Spark oder eine KI Workstation.
DGX Spark oder RTX Spark?Wie groß dürfen Modelle auf DGX Spark sein?
NVIDIA nennt bis zu 200 Mrd. Parameter für die Inferenz und bis zu 70 Mrd. Parameter für das Fine-Tuning. Praktisch komfortabel sind dichte Modelle bis etwa 70 Mrd. Parameter in 8 Bit und Mixture-of-Experts-Modelle wie gpt-oss-120b. Zwei gekoppelte Geräte schaffen laut NVIDIA Modelle bis 405 Mrd. Parameter in 4 Bit.
Wie schnell erzeugt DGX Spark Text?
Das hängt stark vom Modell ab. Öffentliche Messungen mit llama.cpp zeigen bei gpt-oss-120b rund 50 bis 60 Token pro Sekunde, bei einem dichten 70-Mrd.-Modell in 4 Bit nur etwa 3 bis 5 Token pro Sekunde. Ursache ist die Speicherbandbreite von 273 GB/s.
Quellen
Passt NVIDIA DGX Spark zu Ihrem Vorhaben?
Beschreiben Sie uns Software, Modelle und Einsatzzweck. Unser Sales-Team klärt mit Ihnen die Anforderungen und erstellt ein passendes Angebot.
- Anforderungen schildernSoftware, Modelle, Nutzerzahl, Budgetrahmen
- Technisch abstimmenWir prüfen Ausstattung und Machbarkeit
- Angebot erhaltenGerät, Stückzahl und Konditionen