
KI-halluzinierte Zitate infiltrieren klinische Leitlinien-Forschung
Forschende der Columbia University und weiterer Institutionen haben 2,5 Millionen biomedizinische Paper auf gefälschte Literaturangaben untersucht. Ihr Befund: Die Rate halluzinierter Zitate hat sich seit 2023 mehr als verzwölffacht – ein Zeitraum, der eng mit der massenhaften Verbreitung großer Sprachmodelle wie ChatGPT zusammenfällt. Die gefälschten Referenzen sind besonders heimtückisch, weil sie thematisch zum jeweiligen Paper passen, korrekte bibliografische Formatierungen aufweisen und damit für menschliche Reviewer kaum als Fälschungen erkennbar sind. Besonders brisant ist der Befund im Kontext klinischer Leitlinien: Wenn systematische Reviews und Metaanalysen, die als Grundlage für medizinische Behandlungsempfehlungen dienen, auf nicht existierenden Quellen fußen, kann das direkte Folgen für die Patientenversorgung haben. Erschwerend kommt hinzu, dass 98 Prozent der identifizierten betroffenen Paper bislang keine Reaktion ihrer Verlage erhalten haben – ein Hinweis darauf, dass die wissenschaftliche Publikationsinfrastruktur mit dem Ausmaß des Problems noch nicht umgehen kann.
- Audit umfasste 2,5 Millionen biomedizinische Paper – durchgeführt von Columbia University und weiteren Institutionen
- Rate gefälschter Referenzen stieg seit 2023 um mehr als das Zwölffache
- Halluzinierte Zitate passen thematisch zum Paper und folgen korrekter Formatierung – kaum manuell erkennbar
- 98 % der betroffenen Paper erhielten bislang keine Reaktion ihrer Verlage
- Forscher vermuten direkten Zusammenhang mit verbreitetem Einsatz von Sprachmodellen
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge

KI-halluzinierte Zitate infiltrieren klinische Leitlinien-Forschung
Forschende der Columbia University und weiterer Institutionen haben 2,5 Millionen biomedizinische Paper auf gefälschte Literaturangaben untersucht. Ihr Befund: Die Rate halluzinierter Zitate hat sich seit 2023 mehr als verzwölffacht – ein Zeitraum, der eng mit der massenhaften Verbreitung großer Sprachmodelle wie ChatGPT zusammenfällt. Die gefälschten Referenzen sind besonders heimtückisch, weil sie thematisch zum jeweiligen Paper passen, korrekte bibliografische Formatierungen aufweisen und damit für menschliche Reviewer kaum als Fälschungen erkennbar sind. Besonders brisant ist der Befund im Kontext klinischer Leitlinien: Wenn systematische Reviews und Metaanalysen, die als Grundlage für medizinische Behandlungsempfehlungen dienen, auf nicht existierenden Quellen fußen, kann das direkte Folgen für die Patientenversorgung haben. Erschwerend kommt hinzu, dass 98 Prozent der identifizierten betroffenen Paper bislang keine Reaktion ihrer Verlage erhalten haben – ein Hinweis darauf, dass die wissenschaftliche Publikationsinfrastruktur mit dem Ausmaß des Problems noch nicht umgehen kann.
- Audit umfasste 2,5 Millionen biomedizinische Paper – durchgeführt von Columbia University und weiteren Institutionen
- Rate gefälschter Referenzen stieg seit 2023 um mehr als das Zwölffache
- Halluzinierte Zitate passen thematisch zum Paper und folgen korrekter Formatierung – kaum manuell erkennbar
- 98 % der betroffenen Paper erhielten bislang keine Reaktion ihrer Verlage
- Forscher vermuten direkten Zusammenhang mit verbreitetem Einsatz von Sprachmodellen
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.