Journalist und Autor Steven Rosenbaum schrieb mit KI-Unterstützung das Buch „The Future of Truth: How AI Reshapes Reality" – ein Werk, das ausgerechnet untersucht, wie KI die Wahrheit verzerrt. Eine Untersuchung der New York Times enthüllte diese Woche, dass das Buch mindestens sechs problematische Zitate enthält, von denen drei als „synthetische Zitate" ohne nachweisbare Quelle gelten. Tech-Journalistin Kara Swisher erklärte, eine ihr zugeschriebene Aussage nie gemacht zu haben; Northeastern-Professorin Lisa Feldman Barrett bestätigte, die ihr zugeschriebenen Sätze stammten weder aus ihrem Buch noch seien sie inhaltlich korrekt. Rosenbaum hatte ChatGPT (OpenAI) und Claude (Anthropic) zur Recherche genutzt, um Quellen zu finden, Themen zusammenzufassen und mögliche Gesprächspartner zu identifizieren. KI-generierte Notizen waren mit einem Hinweis markiert und wurden anschließend an einen Fact-Checker sowie zwei Korrektoren des Verlags weitergegeben – von 285 Außenzitaten wurden trotzdem sechs nicht korrekt verifiziert. Rosenbaum kündigt nun eine vollständige „Citation Audit" an, will KI-Tools aber nicht aufgeben und fordert von Verlagen neue, KI-spezifische Verifikations-Workflows inklusive verpflichtender Quellenrückverfolgung für Zitate.