
Google DeepMind: LLMs können keine wissenschaftlichen Revolutionen auslösen
In einem Positionspapier mit dem Titel „LLMs can't jump" legt Tom Zahavy von Google DeepMind dar, warum große Sprachmodelle strukturell nicht in der Lage sind, echte wissenschaftliche Revolutionen hervorzubringen. Zahavys Kernthese: LLMs operieren im Wesentlichen als hochentwickelte Mustererkenner, die auf statistischen Regularitäten in Trainingsdaten beruhen — sie können Bekanntes rekombinieren, aber keinen konzeptuellen Sprung in bisher unerschlossenes Terrain vollziehen. Dieser fehlende kognitive Mechanismus, den Zahavy als zentrales Defizit identifiziert, unterscheidet LLMs von menschlichen Wissenschaftlern, die auch mit rudimentären Daten radikal neue Hypothesenräume öffnen können. Als vielversprechendere Alternative schlägt Zahavy sogenannte World Models vor — Systeme, die interne Repräsentationen der Welt aufbauen und darüber simulieren können, anstatt lediglich Text-Muster fortzuschreiben. World Models können potenziell kausale Strukturen modellieren und Szenarien explorieren, die außerhalb des Trainingsverteilung liegen. Das Papier reiht sich in eine wachsende Debatte über die Grenzen von LLMs im wissenschaftlichen Kontext ein, in der Forscher zunehmend zwischen „wissenschaftlichem Assistieren" und „wissenschaftlichem Entdecken" unterscheiden. Zahavys Argumentation hat direkte Implikationen für den Einsatz von KI in der Grundlagenforschung: Wer auf echte Neuentdeckungen hofft, braucht laut ihm andere Architekturprinzipien als die derzeit dominanten Transformer-basierten Sprachmodelle.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- MEINUNGtechnologyreview.com3w
MIT Technology Review: LLMs können nicht wirklich schlussfolgern
- FORSCHUNGarxiv.org2w
LLMs erweitern bekannte Forschung, erschaffen aber keine neuen Richtungen
- FORSCHUNGarxiv.org2w
LLMs im Wikipedia-Game: Nur vergleichbar mit Menschen, nicht besser
- FORSCHUNGarxiv.org2w
Studie: LLMs scheitern bei Neuerfindung grundlegender Algorithmen

Google DeepMind: LLMs können keine wissenschaftlichen Revolutionen auslösen
In einem Positionspapier mit dem Titel „LLMs can't jump" legt Tom Zahavy von Google DeepMind dar, warum große Sprachmodelle strukturell nicht in der Lage sind, echte wissenschaftliche Revolutionen hervorzubringen. Zahavys Kernthese: LLMs operieren im Wesentlichen als hochentwickelte Mustererkenner, die auf statistischen Regularitäten in Trainingsdaten beruhen — sie können Bekanntes rekombinieren, aber keinen konzeptuellen Sprung in bisher unerschlossenes Terrain vollziehen. Dieser fehlende kognitive Mechanismus, den Zahavy als zentrales Defizit identifiziert, unterscheidet LLMs von menschlichen Wissenschaftlern, die auch mit rudimentären Daten radikal neue Hypothesenräume öffnen können. Als vielversprechendere Alternative schlägt Zahavy sogenannte World Models vor — Systeme, die interne Repräsentationen der Welt aufbauen und darüber simulieren können, anstatt lediglich Text-Muster fortzuschreiben. World Models können potenziell kausale Strukturen modellieren und Szenarien explorieren, die außerhalb des Trainingsverteilung liegen. Das Papier reiht sich in eine wachsende Debatte über die Grenzen von LLMs im wissenschaftlichen Kontext ein, in der Forscher zunehmend zwischen „wissenschaftlichem Assistieren" und „wissenschaftlichem Entdecken" unterscheiden. Zahavys Argumentation hat direkte Implikationen für den Einsatz von KI in der Grundlagenforschung: Wer auf echte Neuentdeckungen hofft, braucht laut ihm andere Architekturprinzipien als die derzeit dominanten Transformer-basierten Sprachmodelle.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- MEINUNGtechnologyreview.com3w
MIT Technology Review: LLMs können nicht wirklich schlussfolgern
- FORSCHUNGarxiv.org2w
LLMs erweitern bekannte Forschung, erschaffen aber keine neuen Richtungen
- FORSCHUNGarxiv.org2w
LLMs im Wikipedia-Game: Nur vergleichbar mit Menschen, nicht besser
- FORSCHUNGarxiv.org2w
Studie: LLMs scheitern bei Neuerfindung grundlegender Algorithmen