
Jack Clark: KI ist keine normale Technologie – ein Aufruf zur Zukunftsplanung
In der 2026 Cosmos HAI Lab Lecture an der Universität Oxford – in Kooperation mit dem Cosmos Institute – skizziert Anthropic-Mitgründer Jack Clark eine Grundsatzentscheidung, vor der Individuen und Gesellschaften stehen: die Zukunft aktiv erkunden oder sich vor der Gegenwart verschließen. Clark strukturiert seinen Vortrag in drei Teile: Zunächst analysiert er den Epoch Capabilities Index (ECI), der die Entwicklung von über 40 Benchmarks zusammenfasst und einen steil ansteigenden Fortschrittskurs zeigt. Dann rekapituliert er konkrete Meilensteine – vom Bestehen des Anwaltsexamens (März 2023) über Silber- und Goldmedaillen beim International Math Olympiad (Juli 2024 bzw. Juli 2025) bis hin zu KI-Systemen wie Claude Mythos, die neuartige Softwarefehler finden. Im dritten Teil diskutiert er die gesellschaftlichen Weichenstellungen, die aus diesem Fortschritt folgen. Clark betont, dass Unternehmen inzwischen Hunderte Milliarden Dollar in Recheninfrastruktur investieren, wodurch ein erhebliches Maß an zukünftigem Fortschritt bereits feststeht. Gleichzeitig warnt er offen vor existenziellen Risiken und bezeichnet das Ignorieren dieser Risiken als Hybris. Der Newsletter-Ausgabe beigefügt ist eine fiktionale Kurzgeschichte über ein positives Singuläritätsszenario.
- Epoch Capabilities Index (ECI) aggregiert Fortschritt auf 40+ Benchmarks und zeigt laut Clark einen exponentiell wachsenden Trend.
- KI erreichte Goldmedaille beim International Math Olympiad im Juli 2025, Silbermedaille bereits im Juli 2024.
- Claude Mythos wird als Beispielsystem für das Auffinden neuartiger Softwareschwachstellen genannt.
- Clark warnt explizit: Plausible Szenarien existieren, in denen KI alle Menschen töten könnte.
- Zum Essay gehört eine fiktionale Geschichte, die ein positives Singuläritätsszenario durchdenkt.
„One can concoct plausible scenarios by which AI could kill every single person on the planet. To think building this technology is without risk would be an act of hubris or insanity.“
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge

Jack Clark: KI ist keine normale Technologie – ein Aufruf zur Zukunftsplanung
In der 2026 Cosmos HAI Lab Lecture an der Universität Oxford – in Kooperation mit dem Cosmos Institute – skizziert Anthropic-Mitgründer Jack Clark eine Grundsatzentscheidung, vor der Individuen und Gesellschaften stehen: die Zukunft aktiv erkunden oder sich vor der Gegenwart verschließen. Clark strukturiert seinen Vortrag in drei Teile: Zunächst analysiert er den Epoch Capabilities Index (ECI), der die Entwicklung von über 40 Benchmarks zusammenfasst und einen steil ansteigenden Fortschrittskurs zeigt. Dann rekapituliert er konkrete Meilensteine – vom Bestehen des Anwaltsexamens (März 2023) über Silber- und Goldmedaillen beim International Math Olympiad (Juli 2024 bzw. Juli 2025) bis hin zu KI-Systemen wie Claude Mythos, die neuartige Softwarefehler finden. Im dritten Teil diskutiert er die gesellschaftlichen Weichenstellungen, die aus diesem Fortschritt folgen. Clark betont, dass Unternehmen inzwischen Hunderte Milliarden Dollar in Recheninfrastruktur investieren, wodurch ein erhebliches Maß an zukünftigem Fortschritt bereits feststeht. Gleichzeitig warnt er offen vor existenziellen Risiken und bezeichnet das Ignorieren dieser Risiken als Hybris. Der Newsletter-Ausgabe beigefügt ist eine fiktionale Kurzgeschichte über ein positives Singuläritätsszenario.
- Epoch Capabilities Index (ECI) aggregiert Fortschritt auf 40+ Benchmarks und zeigt laut Clark einen exponentiell wachsenden Trend.
- KI erreichte Goldmedaille beim International Math Olympiad im Juli 2025, Silbermedaille bereits im Juli 2024.
- Claude Mythos wird als Beispielsystem für das Auffinden neuartiger Softwareschwachstellen genannt.
- Clark warnt explizit: Plausible Szenarien existieren, in denen KI alle Menschen töten könnte.
- Zum Essay gehört eine fiktionale Geschichte, die ein positives Singuläritätsszenario durchdenkt.
„One can concoct plausible scenarios by which AI could kill every single person on the planet. To think building this technology is without risk would be an act of hubris or insanity.“
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.