Technischer Leitfaden: CMP 170HX flashen und 64 GB HBM2e unter Ubuntu 22.04 LTS freischalten

# Vollständiger technischer Leitfaden: Flashen der CMP 170HX & Freischalten von 64 GB HBM2e unter Ubuntu 22.04 LTS

Dieser Leitfaden beschreibt das komplette Verfahren, um die werkseitigen OTP-Sperren der **NVIDIA CMP 170HX** (GA100-Architektur, Device ID `10de:20c2` / `10de:20b0`) mithilfe von **`CMPUnlocker`** zu umgehen. Dadurch werden deaktivierte Streaming Multiprocessors (SMs) reaktiviert und die brachliegende HBM2e-Speichergeometrie freigeschaltet (8-GB-Modelle wachsen so auf bis zu 64 GB VRAM).

---

## Technische Voraussetzungen & Systemanforderungen

Stellen Sie vor dem Start sicher, dass Ihr Host-Server folgende Kriterien erfüllt:

* **Betriebssystem:** Ubuntu 22.04 LTS oder 24.04 LTS (x86_64).
* **Zieltreiber:** NVIDIA Open GPU Kernel Modules Treiberpaket (Branch v580.x).
* **Systemrechte:** Root- bzw. `sudo`-Zugriff.
* **Kühlung:** Zwangsbelüftung mit hohem statischem Druck (Lüfter mit 4,000+ RPM in einem 4U-Rack-Gehäuse), damit die passiven Kühlkörper keine thermische Abschaltung auslösen.

---

### Schritt 1: System prüfen und Abhängigkeiten installieren
Prüfen Sie zunächst, ob die Karte am PCIe-Bus erkannt wird, und installieren Sie die Python-3-Entwicklungsumgebung sowie den YAML-Parser, die das Unlocker-Skript benötigt.

```bash
# 1. GA100 / CMP 170HX am PCI-Bus suchen
lspci -nn | grep -i nvidia
# Die Ausgabe sollte die Device ID 10de:20c2 oder 10de:20b0 enthalten

# 2. Paketquellen aktualisieren und Systemabhängigkeiten installieren
sudo apt update && sudo apt install -y \
  build-essential \
  python3 \
  python3-pip \
  python3-yaml \
  git \
  pciutils \
  wget

3. PyYAML-Installation überprüfen
python3 -c "import yaml; print(yaml.__version__)"

Schritt 2: Quelloffene NVIDIA-Kerneltreiber installieren (Branch 580.x)

CMPUnlocker setzt auf bestimmte Register-Overrides in der NVIDIA-GSP-Firmware (GPU System Processor), die von der Treiberreihe nvidia-open 580 geladen wird.

# 1. Offizielle Graphics-Drivers-PPA hinzufügen
sudo add-apt-repository ppa:graphics-drivers/ppa -y
sudo apt update

# 2. Open-Kernel-GPU-Treiber und CUDA-Utils installieren
sudo apt install -y nvidia-driver-580-open nvidia-utils-580

# 3. Automatische Updates blockieren, damit die Kernelmodule intakt bleiben
sudo apt-mark hold nvidia-driver-580-open

4. Vorhandensein der GSP-Firmware prüfen
ls -la /lib/firmware/nvidia/580.*/gsp_tu10x.bin

Schritt 3: Originale GSP-Firmware sichern

Legen Sie immer eine Sicherungskopie der unveränderten Firmware-Binärdatei (gsp_tu10x.bin) an, bevor Sie den Unlock-Patch ausführen.

# Genauen Pfad des Treiberverzeichnisses ermitteln
GSP_DIR=$(dirname$(ls /lib/firmware/nvidia/580.*/gsp_tu10x.bin | head -n1))

Dauerhafte Sicherung des Originalstands anlegen
sudo cp "${GSP_DIR}/gsp_tu10x.bin" "${GSP_DIR}/gsp_tu10x.bin.stock"
echo "Backup saved to ${GSP_DIR}/gsp_tu10x.bin.stock"

 

Schritt 4: CMPUnlocker klonen und VRAM-Profil wählen

Klonen Sie das Quell-Repository und setzen Sie die Ziel-Speichergeometrie für Varianten mit 8 GB physischem Speicher standardmäßig auf unlocked_64gb .

# 1. Repository in den lokalen Arbeitsbereich klonen
cd /opt
sudo git clone [https://github.com/amoghmunikote/cmpunlocker.git](https://github.com/amoghmunikote/cmpunlocker.git)
cd cmpunlocker

# 2. Profileinstellungen in der Konstanten-Konfiguration prüfen
# Für Karten mit 8 GB physischem Speicher, Ziel 64 GB VRAM:
sudo ./install.sh --profile=8gb

# (Hinweis: Für die seltene 10-GB-Revision mit Ziel 40 GB/80 GB stattdessen --profile=10gb verwenden)

Schritt 5: Kaltstart durchführen

Anders als ein gewöhnliches Neuladen des Treibers erfordern das erstmalige Entsperren des WPR2-Registers und das Entladen der SEC2-Kondensatoren einen vollständigen Kaltstart. Nach einem Warmstart schlägt der Unlock-Payload im ersten Durchlauf fehl.

# 1. System vollständig herunterfahren
sudo poweroff

Hinweis zum Ablauf: Sobald der Server ausgeschaltet ist, trennen Sie die Netzkabel physisch vom Strom für 60 Sekunden damit sich die Standby-Spannung aus den Kondensatoren von Mainboard und GPU-Platine vollständig abbaut. Schließen Sie die Stromversorgung danach wieder an und starten Sie Ubuntu erneut.

Schritt 6: Unlock-Pipeline ausführen & Systemd-Daemon aktivieren

Da Registeränderungen tiefe Power-Cycles von Haus aus nicht überstehen, überwacht der Hintergrunddienst von CMPUnlocker die Register und wendet den Patch beim Systemstart sowie bei jedem Treiber-Reload automatisch erneut an.

cd /opt/cmpunlocker

# 1. Unlock-Installationsskript mit Root-Rechten ausführen
sudo ./install.sh

# 2. Status des systemd-Dienstes prüfen
sudo systemctl status cmpunlocker.service

# 3. Daemon-Logs mitlesen und die Patch-Anwendung bestätigen
journalctl -u cmpunlocker -f -n 20

Schritt 7: Freigeschalteten Speicher und Compute-Status validieren

Fragen Sie nvidia-smi ab und führen Sie ein kurzes CUDA-Initialisierungsskript aus, um vollen Rechendurchsatz und die korrekte VRAM-Erkennung zu bestätigen.

# 1. Aufhebung des SM-Taktlimits und VRAM-Meldung prüfen
nvidia-smi --query-gpu=name,memory.total,clocks.max.sm --format=csv

# Erwartete Ausgabe:
# name, memory.total [MiB], clocks.max.sm [MHz]
# NVIDIA Graphics Device, 65536 MiB, 1410 MHz

# 2. CUDA-ctypes-Testskript in Python ausführen
python3 -c "
import ctypes
cuda = ctypes.CDLL('libcuda.so.1')
init_res = cuda.cuInit(0)
print(f'CUDA Init Status: {init_res} (0 = SUCCESS)')
"

Fehlerbehebung & typische Fehlerbilder

Problem / Symptom	Wahrscheinliche Ursache	Abhilfe
nvidia-smi meldet weiterhin 8 GB VRAM	GSP-RM-Register-Override fehlgeschlagen oder Kaltstart übersprungen.	Trennen Sie das Gerät strikt 60 Sekunden physisch vom Strom. Prüfen Sie, ob gsp_patch.py beim Setup sh_size korrekt aktualisiert hat.
GPU verschwindet vom PCIe-Bus / thermisches Throttling	Zu geringer Luftdurchsatz am passiven Kühlkörper.	Sorgen Sie dafür, dass Gehäuselüfter mit hohem CFM-Wert die Luft direkt über die GPU-Lamellen ziehen. Die Belüftung eines Desktop-Gehäuses reicht nicht aus.
Kernel-Absturz unter hoher LLM-Last	Silizium-Defekt im freigeschalteten HBM2e-Stack.	Führen Sie ./install.sh --profile=40gb erneut aus (oder passen Sie constants.yamlan), um die VRAM-Zuweisung auf stabile 32 GB/40 GB zu begrenzen.