RTX 3090 mit vLLM und Q4-Quantisierung liefert 5× höheren Durchsatz als Apple Silicon für 27B-Modelle – relevanter Datenpunkt für lokale Inferenz-Hardware-Entscheidungen. Tool Calls scheitern häufiger, werden aber laut Bericht vom Modell selbst korrigiert.