Bei Dual-GPU-Setups in llama.cpp teilt `--split-mode layer` das Modell grob nach dem Verhältnis `--tensor-split` auf, etwa 0.6/0.4 bei 16 GB und 12 GB VRAM. Diese grobe Aufteilung lässt jedoch Kapazitätsreserven ungenutzt, da einzelne Tensor-Blöcke nicht optimal zwischen den GPUs verteilt werden. Genau hier setzt das Tool von Reddit-Nutzer ea_man an: Es ermittelt automatisch, welche konkreten Tensor-Blöcke (`blk`-Layer) auf welche GPU verschoben werden sollten, um den freien VRAM maximal für den Kontextpuffer auszuschöpfen. Der Prozess läuft in zwei Phasen ab: Zunächst generiert das Tool ein Skript mit allen notwendigen Probe-Läufen, die der Nutzer offline ausführt; anschließend wertet das Modell die Ergebnisse aus und liefert den finalen `--override-tensor`-Befehl. Das Beispiel mit `Qwen3.8-27B-UD-Q6_K_M.gguf` zeigt den Effekt deutlich: Mit 17 ermittelten Graph-Splits steigt der nutzbare Kontext von 110.848 auf 136.704 Tokens, mit 23 Swaps sogar auf 139.776 Tokens. Das Tool ist primär für Linux entwickelt und wurde unter ROCm und Vulkan getestet; CUDA-Kompatibilität wird erwartet, aber noch nicht bestätigt. Der Tipp, den KV-Cache via `--slot-save-path` zu sichern, erlaubt es, die laufende Sitzung nach dem Neustart fortzusetzen.