Open-Weight-Modelle können durch Quantisierung und Layer-Offloading stark divergierende, potenziell unerwartete Verhaltensweisen zeigen – auch in sicherheitskritischen Kontexten. Wer solche Modelle lokal betreibt oder evaluiert, muss mit hardware- und präzisionsabhängigen Ausgaben rechnen, die sich von publizierten Ergebnissen erheblich unterscheiden können.