GPU-Mining vs. LLM-Inferenz 2026: Was ist rentabler?

Die Profitabilität einer RTX 4090 bei PoW-Coins wie Kaspa oder Clore ist längst an der Steckdose und an der Schwierigkeit zerschellt: Bei $0.06 pro kWh bleiben bestenfalls $0.40–$0.60 netto pro Tag und Karte hängen. Ein identisches Rig mit 8x RTX 4090, das an Vast.ai, Render Network oder io.net für die Inferenz von Qwen 2.5 72B oder Llama 3.3 70B über vLLM angeschlossen wird, liefert völlig andere Zahlen, bringt aber auch ein Vielfaches an Kopfschmerzen mit sich.

Während man beim PoW einfach das BIOS flasht, das Power Limit auf 250W drosselt, den lock memory clock auf 810 MHz setzt, die Lüfter ausrichtet und ein Stratum auf den Pool wirft, liefert ein solches Setup für die Inferenz keinerlei adäquate Auslastung.

Das Hauptproblem beim Vermieten von GPUs für KI-Workloads sind Bus-Latenz und Speicher. Auf dezentralen Marktplätzen mieten Kunden Nodes für spezifische Aufgaben an: Die einen lassen FP8/INT4-Inferenz laufen, die anderen benötigen Tensor-Cores für ein leichtgewichtige Fine-Tuning via LoRA.

Die Unterschiede bei Hardware und Konfiguration stellen sich wie folgt dar:

• PCIe-Anbindung: Für PoW (wie Ethash-ähnliche Coins oder HeavyHash) reichen x1 PCIe 2.0/3.0 Riser völlig aus. Für die Inferenz wird jedoch ein vollwertiger Durchsatzkanal benötigt. Sitzt die Karte auf PCIe 3.0 x1, ist das Hin- und Herschieben von über 40 GB großen Modellgewichten aus dem System-RAM in den VRAM der sichere Tod in puncto Latency. Man braucht Mainboards mit mindestens PCIe 4.0 x8, besser x16 pro Slot, oder Server-Mainboards mit Broadcom/PLX-Switches.
• VRAM-Kapazität und -Geschwindigkeit: Beim PoW kommt es auf die Größe der DAG-Datei oder die Speicherbandbreite an. Bei der LLM-Inferenz ist die VRAM-Größe der entscheidende Engpass. Eine RTX 3090 (24GB) wird höher gehandelt als eine RTX 4080 (16GB), schlicht weil in 16 GB nicht einmal eine quantisierte Llama 3 70B passt, wenn man mehrere Nutzer parallel über den KV-Cache bedient.
• Energieverbrauch und Lastspitzen: Beim Mining verläuft der Stromverbrauch linear. Man setzt nvidia-smi -pl 280 und die Verbrauchs从未 verläuft als gerade Linie. Bei der Inferenz schießt die Karte beim Eintreffen eines Prompt-Batches im Bruchteil einer Sekunde von 30W im Leerlauf auf 450W Execution-Peak hoch. Ist das Netzteil billig oder auf einer Schiene gebündelt (wie alte chinesische 2000W-Netzteile), greift sofort der Überstromschutz (OVP/OCP) wegen des extremen dI/dt-Sprungs.
• Software und Treiber: Mining läuft auf jeder beliebigen Software wie HiveOS oder RaveOS mit einem Basis-NVIDIA-Treiber. Für KI benötigt man hingegen Linux (Ubuntu Server 22.04/24.04), aktuelle CUDA Toolkits (12.x), Docker, das nvidia-container-toolkit und ordentlich konfigurierte Auth-Daemons der jeweiligen Plattform.

Zur Wirtschaftlichkeit: Auf Vast.ai werden für eine RTX 4090 etwa $0.35–$0.50 pro Stunde aufgerufen, allerdings gilt das bei 100 % Auslastung (On-Demand). Die reale Auslastung einer Node ohne statische IP und mit einem Ping von über 50 ms zu den großen Rechenzentren übersteigt selten 50–60 %. Wenn gerade niemand die Karte mietet, zieht sie im Leerlauf einfach 40–50W und bringt null Ertrag.

Unterm Strich gilt: Wer über eine Infrastruktur mit ordentlicher Kühlung, eine stabile Anbindung von mindestens 1 Gbps, reichlich System-RAM (mindestens 1:1 zur VRAM-Größe) und die Bereitschaft verfügt, Container regelmäßig zu aktualisieren, verdoppelt bis verdreifacht die Einnahmen im Vergleich zu PoW. Ist das Rig hingegen aus Schrott und Ästen auf einem Holzrahmen zusammengezimmert, mit x1-Risern und einem Celeron-Prozessor, ist es zu nichts anderem fähig, als traurig irgendwelche Algorithmen wie Pyrin oder NEXA zu ackern.

Betrieb und Administration

Betrieb und Administration – genau hier tauchen die echten Arbeitsaufwände auf, über die in den Promo-Videos der Marketplaces geschwiegen wird.

Was auf der OS- und Software-Seite passiert

Beim Mining beschränkt sich die gesamte Konfiguration auf ein einzelnes Auth-Skript und eine benutzerdefinierte Miner-Konfigurationsdatei (Gminer, LOLMiner oder Rigel). Bei KI-Mietplattformen (wie Vast.ai, Clore.ai oder RunPod) wird die Host-Maschine hingegen zu einer vollwertigen Virtualisierungsnode.

Hier ist der grundlegende Unterschied in der Stack-Architektur:

[ PoW Mining ]
Linux Kernel -> NVIDIA Driver -> Mining Executable -> Stratum Pool
[ AI Inference Node ]
Ubuntu Server 22.04/24.04 LTS 
  ├── NVIDIA Driver (535/550+ Open Kernel Modules)
  ├── CUDA Toolkit (12.x) & nvidia-container-toolkit
  ├── Docker Daemon (mit nativer cgroupsv2-Integration für GPU-Limits)
  ├── Host-Daemon der Plattform (Vast/Clore Client: Monitoring, Port-Forwarding, SSH-Schlüssel)
  └── Container Context (vLLM / Ollama / ComfyUI / PyTorch + HuggingFace Cache)

Wenn dein Miner abstürzt, startet ein Watchdog den Prozess in 3 Sekunden neu. Wenn im Container des Mieters hingegen vllm.entrypoints.openai.api_server aufgrund eines Out-Of-Memory-Fehlers (OOM) abstürzt – ausgelöst durch einen aufgeblähten KV-Cache bei einem langen Kontext (z. B. 32k Token auf Llama-3) –, storniert der Kunde einfach die Miete. Du verlierst deinen Host-Rating-Score (Uptime Score) auf der Plattform, und deine Node fliegt für mehrere Tage aus den Suchergebnissen heraus.

Netzwerkbandbreite und Disk-I/O

Beim Mining ist das Volumen des ein- und ausgehenden Traffics lächerlich gering: Shares werden in Paketen von wenigen Kilobyte über das Stratum-Protokoll gesendet. Dafür reicht sogar ein 4G-Modem mit 80 ms Ping.

Für die Miete für Inferenz und Fine-Tuning ist das Netzwerk hingegen das direkte Nadelöhr:

• Download von Modellgewichten: Ein Kunde mietet eine Karte und zieht das Llama-3-70B-Modell in INT4-Quantisierung (ca. 40 GB) von HuggingFace herunter. Auf einer 100-Mbit/s-Leitung dauert dieser Prozess fast eine Stunde. Die ganze Zeit über zahlt der Kunde Leerlaufgebühren und schreibt eine negative Bewertung. Die Anbindung muss mindestens eine symmetrische 1-Gbit/s-Glasfaserleitung sein (besser 2.5–10 Gbit/s).
• Speicher-Subsystem: Vergiss billige SATA-SSDs oder alte HDDs, die für ein HiveOS-Bootlaufwerk noch so eben taugen. KI-Container schreiben ständig Cache und lesen gigabyteschwere Tensoren. Nötig sind NVMe-Laufwerke (PCIe 4.0 x4) mit Controllern, die über einen DRAM-Cache verfügen (z. B. Samsung 980 Pro / Kingston KC3000), mit einer Kapazität von mindestens 2 TB pro 4 GPUs. Günstige SSDs ohne DRAM überhitzen schnell, stürzen beim IOPS-Throttling ab und hängen den gesamten Docker-Daemon auf.

Sicherheit und Host-Isolierung

Wenn du GPUs für Rechenaufgaben an externe Personen vermietest, gibst du im Grunde Zugriff auf die Ausführung von beliebigem Code innerhalb eines Containers auf deiner eigenen Hardware.

Wenn Docker auf dem Host-System schlampig konfiguriert ist oder ein veralteter Kernel ohne geschlossene Schwachstellen wie Container Escape verwendet wird, kann sich der Mieter Root-Zugriff auf das Hauptbetriebssystem verschaffen.

Obligatorische Schritte zur Absicherung der Node:

• Deaktivierung des Privileged-Modus in den Host-Daemon-Einstellungen.
• Konfiguration von iptables / ufw für eine strikte Isolierung des lokalen Netzwerks (damit der Mieter aus dem Container heraus nicht dein Heimnetzwerk oder deinen Router scannt).
• Nutzung separater VLANs für das Mining-Segment und die Rechennodes.
• Deaktivierung des passwortbasierten SSH-Zugriffs auf der Host-Maschine und Nutzung einer Authentifizierung ausschließlich über Ed25519-Schlüssel.

Finanzielle Risiken und Liquiditätsabfluss

Beim PoW tropfen die Einnahmen nativ auf den Pool: Coins gemaint -> Auszahlung einmal täglich auf die Wallet. Risk/Reward ist transparent.

Bei KI-Diensten erfolgen die Auszahlungen im plattforminternen Token oder in Krypto (USDT/BTC) mit einer zeitlichen Verzögerung (Hold Period). Auf Clore.ai oder Render wird beispielsweise ein Teil der Belohnung in deren eigenen Token ausgezahlt, deren Kurs starker Volatilität ausgesetzt ist. Wenn der Plattform-Token an einem Tag um 20 % sinkt, schrumpft deine tatsächliche Mietrendite auf Werte unterhalb von PoW.

Wenn du keine Lust hast, am Terminal Wache zu stehen, nvidia-persistenced-Berechtigungen anzupassen, Docker-Caches mit dem Befehl docker system prune -a zu bereinigen und herauszufinden, warum PyTorch wegen eines cuDNN-Versionskonflikts mit einem Segfault abgestürzt ist – dann wird die Hardware-Miete für KI schnell zu einer illiquiden Kopfschmerztablette.

Schritt-für-Schritt-Setup für Desktop-Rigs zur Bereitstellung in Compute-Netzwerken

Wenn du einen Workstation-PC oder ein Rig mit 2x RTX 4090 / 3090 am Start hast und von PoW auf Inference umstellen willst, sieht der typische Software-Stack so aus:

1. Clean Install von Linux und Basis-Umgebung

Vergiss spezielle Mining-Distros auf USB-Sticks. Du brauchst ein cleanes Server-OS auf einer NVMe-SSD:

# Pakete aktualisieren und Basis-Tools installieren
sudo apt update && sudo apt upgrade -y
sudo apt install -y build-essential dkms git curl wget htop nvme-cli net-tools ufw

2. NVIDIA-Treiber und CUDA ohne Bloatware installieren

Installiere Treiber nicht über das Standard-ubuntu-drivers autoinstall – das zieht oft Desktop-Bibliotheken nach sich und zerschießt den Headless-Modus. Greife stattdessen zu einem offiziellen Treiber-Branch (z. B. 550+):

# NVIDIA-Repository hinzufügen
sudo add-apt-repository ppa:graphics-drivers/ppa -y
sudo apt update
sudo apt install -y nvidia-driver-550-server nvidia-utils-550-server
# Persistence Mode aktivieren (verhindert, dass GPUs in den Energiesparmodus gehen und beim Container-Start laggen)
sudo nvidia-smi -pm 1

Nach dem Reboot prüfen wir den Bus-Status und die Power Limits. Für einen stabilen 24/7-Betrieb empfiehlt es sich, das TDP leicht zu drosseln, um die VRAM-Temperaturspitzen abzufangen:

# RTX 4090 auf 350-380W statt der standardmäßigen 450W limitieren
sudo nvidia-smi -pl 360

3. Docker und NVIDIA Container Toolkit einrichten

Ohne GPU-Passthrough in isolierte Container läuft auf keinem Marketplace (Vast.ai, Render, RunPod) irgendetwas:

# Docker CE installieren
curl -fsSL https://get.docker.com -o get-docker.sh
sudo sh get-docker.sh
# NVIDIA Container Toolkit hinzufügen
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg
curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \
  sed 's#deb [^ ]* #&[signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] #' | \
  sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list
sudo apt update
sudo apt install -y nvidia-container-toolkit
# Runtime konfigurieren und Docker-Daemon neustarten
sudo nvidia-ctk runtime configure --runtime=docker
sudo systemctl restart docker

Testen, ob die GPU im Container korrekt erkannt wird:

docker run --rm --gpus all nvidia/cuda:12.0.0-base-ubuntu22.04 nvidia-smi

Finanzieller Vergleich verschiedener GPU-Typen

Um die Marktrealitäten einzuordnen, hier eine Übersichtstabelle zur Amortisation und Eignung gängiger Hardware:

* Der Verdienst basiert auf einer durchschnittlichen Auslastung (50-70 %) abzüglich Stromkosten bei $0.06/kWh.

Alternatives Szenario: Hybrides Mining / Inference via Auto-Switching

Wer kein Geld verlieren will, während die Node auf KI-Marketplaces auf Aufträge wartet, setzt auf dynamisches Task-Switching:

• Hauptpriorität: Der Vast.ai / Clore.ai Daemon wartet auf Kundaufträge.
• Hintergrundprozess: Solange die Karte nicht vermietet ist (kein aktiver Rental), feuert ein Worker-Skript einen leichten PoW-Miner an (z. B. Kaspa oder Zephyr auf CPU/GPU).
• Switch-Trigger: Sobald ein API-Request zur Erstellung eines KI-Docker-Containers reinkommt, schickt das Skript sofort ein SIGKILL an den Miner, räumt den VRAM frei und übergibt die Karte an den Kunden.

Das lässt sich über ein simples Bash-Skript zur Überwachung des Docker-Container-Status lösen:

#!/bin/bash
# Einfacher Worker zur Überwachung aktiver KI-Container
MINER_PID=""
while true; do
    # Prüfen, ob außer System-Containern noch andere laufen
    ACTIVE_CONTAINERS=$(docker ps -q --filter "label=ai_workload=true" | wc -l)
    if [ "$ACTIVE_CONTAINERS" -gt 0 ]; then
        if [ ! -z "$MINER_PID" ]; then
            echo "[+] KI-Workload erkannt. Stoppe Hintergrund-Mining..."
            kill -9 $MINER_PID
            MINER_PID=""
            # Lüfter und Limits für KI zurücksetzen
            nvidia-smi -pl 380
        fi
    else
        if [ -z "$MINER_PID" ]; then
            echo "[-] Keine Mieter. Starte PoW-Miner im Hintergrund..."
            # Power Limit fürs Mining drosseln, um Strom zu sparen
            nvidia-smi -pl 250
            /opt/miners/rigel --algo kaspa --pool stratum+tcp://... --wallet ... &
            MINER_PID=$!
        fi
    fi
    sleep 10
done

So ein Setup eliminiert das Hauptproblem der KI-Vermietung – Null Einnahmen während der Wartezeit –, während deine Node trotzdem in Sekundenschnelle bereit ist, gut bezahlte Tasks anzunehmen.

Am Ende läuft alles auf deine Bereitschaft zur Systemadministration hinaus. PoW ist ein klassisches Hardware-Investment mit minimalem operativen Aufwand. GPUs für KI zu vermieten ist hingegen ein waschechtes Micro-IaaS-Business, bei dem du als Mini-Cloud-Provider auftrittst.