Ingo Nowitzky beschreibt in seinem Artikel auf Towards Data Science, wie er beim Aufbau eines agentenbasierten KI-Systems zur Beratung von Fertigungswerken auf ein grundlegendes Problem stieß: Alle getesteten LLM-Systeme – ChatGPT, Gemini Enterprise, DIA Brain und Microsoft Copilot – lieferten bei der Analyse von Excel-Exportdaten mit über 800 Spalten regelmäßig falsche Ergebnisse. Selbst mit aktiviertem Code-Interpreter-Modus wurden Zeilen übersprungen, falsche Filter angewandt oder identische Ausgaben für unterschiedliche Eingaben zurückgegeben. Die Lösung war eine Hybrid-Architektur, implementiert in Microsoft Copilot Studio, die deterministische Analyseschritte klar von LLM-basiertem Reasoning trennt. Ein übergeordneter Parent-Agent orchestriert dabei spezialisierte Sub-Agenten und ein dediziertes Analytics-Modul, das Anweisungen in natürlicher Sprache entgegennimmt und reproduzierbare Ergebnisse liefert. Die Assessment-Daten umfassen Maturity-Bewertungen als Integer von 0 bis 4 sowie über 160 Freitextfelder mit qualitativen Beobachtungen. Der Artikel schlussfolgert, dass probabilistisches LLM-Reasoning für Interpretation und Interaktion geeignet ist, die eigentliche Datenanalyse jedoch deterministisch ausgeführt werden muss.