Das Problem betrifft Qwen2 7B beim Einsatz mit Tool-Calling: Die Tags <tool_call> und </tool_call> landen nicht immer im dafür vorgesehenen Kanal, sondern lecken in den regulären content- oder reasoning_content-Stream. Der Poster /u/Hot-Employ-3399 skizziert einen möglichen clientseitigen Fix: Beim Erkennen von <tool_call> im Stream wird das Streaming gestoppt, das Ende auf </tool_call> geprüft und anschließend ein synthetischer Tool-Call zurückgesendet oder ein Retry ausgelöst. Schwieriger wird es bei mehreren aufeinanderfolgenden Tool-Calls. Als Referenz wird das Hermes-Agent-Projekt von NousResearch genannt, das einen ähnlichen Flush-Mechanismus für GPT-kompatible Endpunkte implementiert hat (codex_responses_adapter.py, Zeile 1043). Das dort genutzte Muster ist bekannt, wurde für Qwen2 7B jedoch noch nicht als fertiger, öffentlich zugänglicher Proxy-Server bereitgestellt. Das Tool „qwencode" erholt sich laut Poster nach einem solchen Leak nicht selbstständig. Die Diskussion zielt darauf ab, eine netzwerkseitige Lösung zu finden, die diesen Fix zentral für alle Nutzer bereitstellt.