Der Reddit-Nutzer /u/Tiny_Arugula_5648 beschreibt ein konkretes Produktionsproblem: Eine Datenpipeline soll 90 Millionen Texte verarbeiten, wobei Datenextraktion und -analyse gemischt anfallen. Als Teacher-Modell für die Destillation kommt Gemini Pro 3.1 zum Einsatz – ein ungewöhnlicher, aber ressourcenschonender Ansatz, bei dem das kleine Zielmodell das Verhalten des großen Lehrermodells imitieren soll. Der erste Kandidat, Qwen3.5-2B, scheiterte trotz guter Trainingskennzahlen (niedriger Loss) in der Praxis vollständig. Der Autor vermutet, dass die Multimodalität von Qwen3.5-2B die reine NLP-Leistung beeinträchtigt – ein Punkt, der in der Community zunehmend diskutiert wird, da viele aktuelle Releases multimodal ausgerichtet sind und dedizierte Text-only-Modelle seltener werden. Die Halluzinierungstoleranz von maximal 10% ist für eine Pipeline dieser Größenordnung eine harte Anforderung: Bei 90 Millionen Texten entsprechen 10% bereits 9 Millionen potenziell fehlerhafter Ausgaben. Der Verzicht auf Quantisierung ist eine bewusste wirtschaftliche Entscheidung – der Mehraufwand für die Fehlerbehandlung quantisierter Modelle übersteigt laut Autor die Einsparungen durch geringeren Speicherbedarf. Das Fine-Tuning-Dataset wurde vollständig von schlechten Beispielen bereinigt, was auf einen professionellen Produktionskontext hindeutet.