Warum KI-Firmen vom Schrecken ihrer eigenen Produkte profitieren
Der BBC-Artikel von Thomas Germain analysiert ein wiederkehrendes Muster in der KI-Branche: Unternehmen kündigen Modelle als potenziell gefährlich an, behalten sie angeblich zurück – und veröffentlichen sie kurz darauf doch. Aktuelles Beispiel ist Anthropics Claude Mythos, dem die Firma außergewöhnliche Cybersecurity-Fähigkeiten attestiert und dessen Freigabe sie als Risiko für öffentliche Sicherheit und Wirtschaft bezeichnet. Kritiker wie Shannon Vallor (Universität Edinburgh) und Emily M. Bender (Universität Washington) sehen darin eine strategische Ablenkung von konkreten Schäden wie Umweltzerstörung, Arbeitsausbeutung und gesellschaftlicher Destabilisierung. Sam Altman kritisierte Anthropics „fear-based marketing" öffentlich – verwendet aber laut Artikel selbst dasselbe Muster seit Jahren, etwa mit Aussagen aus 2015 über KI als wahrscheinliches Weltende. 2023 unterzeichneten Altman, Amodei, Gates und Hassabis eine Erklärung, die KI-Risiken mit Pandemien und Atomkrieg gleichsetzte. Elon Musk forderte eine sechsmonatige KI-Pause und gründete weniger als sechs Monate später xAI. Das Muster reicht bis zu GPT-2 zurück, das OpenAI 2019 zunächst als zu gefährlich einstufte und Monate später vollständig veröffentlichte.
- Anthropic behauptet, Claude Mythos habe tausende 'hochschwere' Sicherheitslücken gefunden, die das Niveau menschlicher Experten übertreffen.
- Anthropic startete eine Partnerschaft mit über 40 Organisationen, um Lücken vor Hackern zu schließen.
- Sam Altman bezeichnete Anthropics Kommunikation als 'fear-based marketing', nutzt laut Artikel selbst diese Rhetorik seit 2015.
- Elon Musk unterzeichnete 2023 einen Brief für eine KI-Pause und gründete weniger als 6 Monate später xAI.
- Professorin Emily M. Bender bezeichnet die Muster als 'unsubstantiated claims of power' – branchenweites Standardverhalten, nicht auf einzelne Firmen beschränkt.
„If you portray these technologies as somehow almost supernatural in their danger, it makes us feel like we are powerless, like we are outmatched.“
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Warum KI-Firmen vom Schrecken ihrer eigenen Produkte profitieren
Der BBC-Artikel von Thomas Germain analysiert ein wiederkehrendes Muster in der KI-Branche: Unternehmen kündigen Modelle als potenziell gefährlich an, behalten sie angeblich zurück – und veröffentlichen sie kurz darauf doch. Aktuelles Beispiel ist Anthropics Claude Mythos, dem die Firma außergewöhnliche Cybersecurity-Fähigkeiten attestiert und dessen Freigabe sie als Risiko für öffentliche Sicherheit und Wirtschaft bezeichnet. Kritiker wie Shannon Vallor (Universität Edinburgh) und Emily M. Bender (Universität Washington) sehen darin eine strategische Ablenkung von konkreten Schäden wie Umweltzerstörung, Arbeitsausbeutung und gesellschaftlicher Destabilisierung. Sam Altman kritisierte Anthropics „fear-based marketing" öffentlich – verwendet aber laut Artikel selbst dasselbe Muster seit Jahren, etwa mit Aussagen aus 2015 über KI als wahrscheinliches Weltende. 2023 unterzeichneten Altman, Amodei, Gates und Hassabis eine Erklärung, die KI-Risiken mit Pandemien und Atomkrieg gleichsetzte. Elon Musk forderte eine sechsmonatige KI-Pause und gründete weniger als sechs Monate später xAI. Das Muster reicht bis zu GPT-2 zurück, das OpenAI 2019 zunächst als zu gefährlich einstufte und Monate später vollständig veröffentlichte.
- Anthropic behauptet, Claude Mythos habe tausende 'hochschwere' Sicherheitslücken gefunden, die das Niveau menschlicher Experten übertreffen.
- Anthropic startete eine Partnerschaft mit über 40 Organisationen, um Lücken vor Hackern zu schließen.
- Sam Altman bezeichnete Anthropics Kommunikation als 'fear-based marketing', nutzt laut Artikel selbst diese Rhetorik seit 2015.
- Elon Musk unterzeichnete 2023 einen Brief für eine KI-Pause und gründete weniger als 6 Monate später xAI.
- Professorin Emily M. Bender bezeichnet die Muster als 'unsubstantiated claims of power' – branchenweites Standardverhalten, nicht auf einzelne Firmen beschränkt.
„If you portray these technologies as somehow almost supernatural in their danger, it makes us feel like we are powerless, like we are outmatched.“
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.