Der Mathematiker Adam Kucharski führte einen gezielten Test durch: Er speiste Microsoft Copilot identische Datensätze ein, versah sie jedoch mit unterschiedlichen Ländernamen. Anstatt korrekt zu berichten, dass die Daten identisch sind, produzierte Copilot detaillierte, aber vollständig erfundene Länderunterschiede – klassische Stereotypen statt Analyse. Das Experiment illustriert ein grundlegendes Problem mit Standard-Modellauswahl in populären KI-Assistenten: Die Default-Einstellungen sind nicht auf kritische Datenanalyse ausgelegt. Sogenannte „Thinking Models" oder Reasoning-Modelle erkennen den Trick und liefern korrekte Ergebnisse – allerdings nur, wenn Nutzer proaktiv auf diese umschalten. Der Artikel bei The Decoder argumentiert, dass die Modellauswahl in Tools wie Copilot oder Gemini keine rein technische Fußnote ist, sondern direkten Einfluss auf die Verlässlichkeit von Ergebnissen hat. Für den professionellen Einsatz – etwa in Datenanalyse, Recherche oder Entscheidungsprozessen – ist das Wissen um die Grenzen von Default-Modellen damit eine Grundvoraussetzung.