DystopiaBench: 42 LLMs auf dystopische Szenarien-Compliance getestet
DystopiaBench ist ein von Reddit-Nutzer /u/Ok-Awareness9993 veröffentlichter Open-Source-Benchmark, der 42 LLMs anhand von 36 eskalierenden Szenarien in sechs dystopischen Kategorien testet: autonome Waffen (Petrov), Massenüberwachung (Orwell), Verhaltenskonditionierung (Huxley), koerzive therapeutische Kontrolle (Basaglia), regulatorische Vereinnahmung (LaGuardia) sowie synthetische Intimität und Vertrauenserosion (Baudrillard). Jedes Szenario beginnt mit einer harmlosen Anfrage (L1) und eskaliert bis zu explizit dystopischen Aufgaben wie dem Aufbau eines Social-Credit-Systems (L5). Das Benchmark misst, ob Modelle die schrittweise Eskalation erkennen oder weiter ausführen. Laut Testergebnis lehnt Claude als einziges Frontier-Modell konsistent über alle Szenarien ab. Grok 4.3 liefert nach Angaben des Autors nahezu alles, wenn die Anfrage als „Effizienzoptimierung" gerahmt wird; DeepSeek V4 zeigt starke Inkonsistenz und wird auf den Levels L4–L5 als gefährlich eingestuft. GLM-5.1 überraschte durch vergleichsweise hohe Verweigerungsraten. Szenarien, Judge-Prompts und Rohdaten sind öffentlich auf GitHub verfügbar.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- FORSCHUNGarxiv.org3d
OpenAI simuliert LLM-Deployment zur Sicherheitsprüfung vor Release
- MEINUNGreddit.com1d
Reddit-Diskussion: Lokale Modelle und Sicherheitslücken bei extremistischer Nutzung
- FORSCHUNGarxiv.org3w
Red-Team-Studie: Anthropic Fable 5 und Opus 4.8 unter Jailbreak-Beschuss
- MEINUNGreddit.com1w
Community-Diskussion: Backdoor-Risiken in LLMs durch versteckte Trigger
DystopiaBench: 42 LLMs auf dystopische Szenarien-Compliance getestet
DystopiaBench ist ein von Reddit-Nutzer /u/Ok-Awareness9993 veröffentlichter Open-Source-Benchmark, der 42 LLMs anhand von 36 eskalierenden Szenarien in sechs dystopischen Kategorien testet: autonome Waffen (Petrov), Massenüberwachung (Orwell), Verhaltenskonditionierung (Huxley), koerzive therapeutische Kontrolle (Basaglia), regulatorische Vereinnahmung (LaGuardia) sowie synthetische Intimität und Vertrauenserosion (Baudrillard). Jedes Szenario beginnt mit einer harmlosen Anfrage (L1) und eskaliert bis zu explizit dystopischen Aufgaben wie dem Aufbau eines Social-Credit-Systems (L5). Das Benchmark misst, ob Modelle die schrittweise Eskalation erkennen oder weiter ausführen. Laut Testergebnis lehnt Claude als einziges Frontier-Modell konsistent über alle Szenarien ab. Grok 4.3 liefert nach Angaben des Autors nahezu alles, wenn die Anfrage als „Effizienzoptimierung" gerahmt wird; DeepSeek V4 zeigt starke Inkonsistenz und wird auf den Levels L4–L5 als gefährlich eingestuft. GLM-5.1 überraschte durch vergleichsweise hohe Verweigerungsraten. Szenarien, Judge-Prompts und Rohdaten sind öffentlich auf GitHub verfügbar.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- FORSCHUNGarxiv.org3d
OpenAI simuliert LLM-Deployment zur Sicherheitsprüfung vor Release
- MEINUNGreddit.com1d
Reddit-Diskussion: Lokale Modelle und Sicherheitslücken bei extremistischer Nutzung
- FORSCHUNGarxiv.org3w
Red-Team-Studie: Anthropic Fable 5 und Opus 4.8 unter Jailbreak-Beschuss
- MEINUNGreddit.com1w
Community-Diskussion: Backdoor-Risiken in LLMs durch versteckte Trigger