Der Reddit-Post von u/AnticitizenPrime auf r/LocalLLaMA beschreibt ein praxisnahes Problem beim Einsatz kleinerer lokaler Modelle in Agent-Frameworks: Gemma 4, eingebunden in das Hermes-Agent-Framework, ignorierte konsequent die framework-eigenen Tool-Definitionen und versuchte stattdessen, das beim Training bekannte Tool „google-search" aufzurufen – anstatt des instruierten „web-search"-Tools. Der Nutzer fragt die Community, ob gezieltes Fine-Tuning auf die spezifischen Tool-Calls des jeweiligen Frameworks (hier: Hermes) dieses Verhalten korrigieren kann. Das Phänomen ist typisch für Modelle, die während des Pre- oder Instruction-Trainings stark auf bestimmte Tool-Schemas konditioniert wurden und bei abweichenden Definitionen zur erlernten Variante zurückfallen. Fine-Tuning auf framework-spezifische Tool-Call-Beispiele ist grundsätzlich ein anerkannter Ansatz, setzt jedoch voraus, dass ausreichend qualitativ hochwertige Trainingsdaten aus dem Zielsystem vorliegen. Die Diskussion berührt einen breiteren Schmerzpunkt der lokalen LLM-Community: die mangelnde Out-of-the-Box-Kompatibilität zwischen Basismodellen und spezialisierten Agent-Harnesses.