hipEngine entstand als Nebenprojekt des Entwicklers, der zuvor bereits FastDMS veröffentlicht hatte. Der Kern der Engine besteht aus über 100 eigenen HIP/C++-Kerneln – darunter sowohl gefusete als auch ungefusete Varianten – und nutzt AMD-native Bibliotheken wie hipBLASLt, hipGraph und AOTriton, um PyTorch vollständig zu umgehen. Als primäres Quantisierungsformat setzt hipEngine auf ParoQuant (4,68 bpw), das der Entwickler eigens auf ROCm portiert hat; alternativ wird GGUF mit Q4_K_M und Q4_K_S unterstützt, das nach eigener Aussage etwas langsamer ist, aber keine tage­langen Quant-Läufe erfordert. Auf der 7900 XTX erreicht hipEngine beim 4K-Prefill 2838 tok/s (PARO) gegenüber 2176 tok/s bei llama.cpp HIP – ein Vorsprung von rund 30 %. Beim Decode-Throughput liegt llama.cpp Vulkan bei kürzeren Kontexten hingegen noch vorne (127 vs. 103 tok/s bei 512 Token), während hipEngine bei langen Kontexten (128K) mit 59,6 tok/s an llama.cpp Vulkan (64,5 tok/s) heranreicht. Für Strix-Halo-Systeme (gfx1151, Ryzen AI MAX+ 395) existieren bereits erste Benchmark-Zahlen, obwohl der Entwickler keinen dedizierten Strix-Halo-Rechner zum Kernel-Tuning besitzt; bei 4K-Prefill werden dort 1029 tok/s erzielt. Die Architektur ist modular ausgelegt, sodass künftige Modelle wie Gemma 4 oder StepFun 3.5 sowie weitere GPU-Generationen eingebunden werden können.