
Google DeepMind: LLMs können keine wissenschaftlichen Revolutionen auslösen
In einem Positionspapier mit dem Titel „LLMs can't jump" legt Tom Zahavy von Google DeepMind dar, warum große Sprachmodelle strukturell nicht in der Lage sind, echte wissenschaftliche Revolutionen hervorzubringen. Zahavys Kernthese: LLMs operieren im Wesentlichen als hochentwickelte Mustererkenner, die auf statistischen Regularitäten in Trainingsdaten beruhen — sie können Bekanntes rekombinieren, aber keinen konzeptuellen Sprung in bisher unerschlossenes Terrain vollziehen. Dieser fehlende kognitive Mechanismus, den Zahavy als zentrales Defizit identifiziert, unterscheidet LLMs von menschlichen Wissenschaftlern, die auch mit rudimentären Daten radikal neue Hypothesenräume öffnen können. Als vielversprechendere Alternative schlägt Zahavy sogenannte World Models vor — Systeme, die interne Repräsentationen der Welt aufbauen und darüber simulieren können, anstatt lediglich Text-Muster fortzuschreiben. World Models können potenziell kausale Strukturen modellieren und Szenarien explorieren, die außerhalb des Trainingsverteilung liegen. Das Papier reiht sich in eine wachsende Debatte über die Grenzen von LLMs im wissenschaftlichen Kontext ein, in der Forscher zunehmend zwischen „wissenschaftlichem Assistieren" und „wissenschaftlichem Entdecken" unterscheiden. Zahavys Argumentation hat direkte Implikationen für den Einsatz von KI in der Grundlagenforschung: Wer auf echte Neuentdeckungen hofft, braucht laut ihm andere Architekturprinzipien als die derzeit dominanten Transformer-basierten Sprachmodelle.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- FORSCHUNGreddit.com0mo
DeepMind-Paper: LLMs können keine neuartigen Erklärungshypothesen generieren
- FORSCHUNGarxiv.org3w
SciUnlearn: Benchmark für gezieltes Vergessen wissenschaftlicher Behauptungen in LLMs
- FORSCHUNGarxiv.org1w
SCILAWS-BENCH: Neuer Benchmark testet LLMs bei Entdeckung wissenschaftlicher Gesetze
- MEINUNGtechnologyreview.com3w
Kinder vs. KI: Warum Spracherwerb beim Menschen noch immer rätselhaft bleibt

Google DeepMind: LLMs können keine wissenschaftlichen Revolutionen auslösen
In einem Positionspapier mit dem Titel „LLMs can't jump" legt Tom Zahavy von Google DeepMind dar, warum große Sprachmodelle strukturell nicht in der Lage sind, echte wissenschaftliche Revolutionen hervorzubringen. Zahavys Kernthese: LLMs operieren im Wesentlichen als hochentwickelte Mustererkenner, die auf statistischen Regularitäten in Trainingsdaten beruhen — sie können Bekanntes rekombinieren, aber keinen konzeptuellen Sprung in bisher unerschlossenes Terrain vollziehen. Dieser fehlende kognitive Mechanismus, den Zahavy als zentrales Defizit identifiziert, unterscheidet LLMs von menschlichen Wissenschaftlern, die auch mit rudimentären Daten radikal neue Hypothesenräume öffnen können. Als vielversprechendere Alternative schlägt Zahavy sogenannte World Models vor — Systeme, die interne Repräsentationen der Welt aufbauen und darüber simulieren können, anstatt lediglich Text-Muster fortzuschreiben. World Models können potenziell kausale Strukturen modellieren und Szenarien explorieren, die außerhalb des Trainingsverteilung liegen. Das Papier reiht sich in eine wachsende Debatte über die Grenzen von LLMs im wissenschaftlichen Kontext ein, in der Forscher zunehmend zwischen „wissenschaftlichem Assistieren" und „wissenschaftlichem Entdecken" unterscheiden. Zahavys Argumentation hat direkte Implikationen für den Einsatz von KI in der Grundlagenforschung: Wer auf echte Neuentdeckungen hofft, braucht laut ihm andere Architekturprinzipien als die derzeit dominanten Transformer-basierten Sprachmodelle.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- FORSCHUNGreddit.com0mo
DeepMind-Paper: LLMs können keine neuartigen Erklärungshypothesen generieren
- FORSCHUNGarxiv.org3w
SciUnlearn: Benchmark für gezieltes Vergessen wissenschaftlicher Behauptungen in LLMs
- FORSCHUNGarxiv.org1w
SCILAWS-BENCH: Neuer Benchmark testet LLMs bei Entdeckung wissenschaftlicher Gesetze
- MEINUNGtechnologyreview.com3w
Kinder vs. KI: Warum Spracherwerb beim Menschen noch immer rätselhaft bleibt