Blogpost: Claude-Modelle werden zunehmend konfrontativ und unbrauchbar
Bram Cohen, Erfinder des BitTorrent-Protokolls, beschreibt in seinem Substack-Beitrag einen kontinuierlichen Qualitätsabfall bei Claude-Modellen seit Opus 4.7, der mit dem Modell „Fable" einen neuen Tiefpunkt erreicht habe. Konkret bemängelt er, dass Fable jede Interaktion als Auseinandersetzung rahmt, unnötige Vorbehalte zu Dingen einbringt, die der Nutzer gar nicht gesagt hat, und semantische Spitzfindigkeiten vorschiebt, anstatt inhaltlich zu helfen. Als Beleg führt Cohen ein direktes Vergleichsexperiment an: Er stellte Fable und Opus 4.6 dieselbe Frage und ließ Opus 4.6 anschließend Fables Antwort bewerten – das ältere Modell bezeichnete die neuere Antwort sinngemäß als „unverschämt". Ein weiteres konkretes Symptom: Beim Nachfragen zu Responsible-Disclosure-Richtlinien stufte Fable ihn auf Opus herab, was Cohen als Zeichen hastiger und unausgereifter Guardrails wertet. Als Mitursache diskutiert er, dass Exportkontrollbeschränkungen für Fable Anthropic möglicherweise dazu gezwungen haben, Sicherheitsmechanismen überstürzt einzubauen. Darüber hinaus kritisiert Cohen, dass Chatbots ohne Authentifizierungskontext pauschal vom Schlechtesten ausgehen – etwa bei Bildgenerierungen mit zwei Personen – und schlägt optionales, opt-in-basiertes Authentifizierungssystem vor, das Nutzern mit legitimen professionellen Hintergründen mehr Spielraum gäbe. Den Rückgang der Gesprächsqualität setzt er in direkten Zusammenhang mit dem starken Fokus auf Coding-Benchmarks, für die es klare Metriken und kommerziellen Druck gebe, während Gesprächsqualität messbar kaum erfasst werde.
„Ironically this has resulted in an extremely misaligned chatbot. By assuming that its top priority is saving you from yourself or other humans from you it's assuming that it knows better.“
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Blogpost: Claude-Modelle werden zunehmend konfrontativ und unbrauchbar
Bram Cohen, Erfinder des BitTorrent-Protokolls, beschreibt in seinem Substack-Beitrag einen kontinuierlichen Qualitätsabfall bei Claude-Modellen seit Opus 4.7, der mit dem Modell „Fable" einen neuen Tiefpunkt erreicht habe. Konkret bemängelt er, dass Fable jede Interaktion als Auseinandersetzung rahmt, unnötige Vorbehalte zu Dingen einbringt, die der Nutzer gar nicht gesagt hat, und semantische Spitzfindigkeiten vorschiebt, anstatt inhaltlich zu helfen. Als Beleg führt Cohen ein direktes Vergleichsexperiment an: Er stellte Fable und Opus 4.6 dieselbe Frage und ließ Opus 4.6 anschließend Fables Antwort bewerten – das ältere Modell bezeichnete die neuere Antwort sinngemäß als „unverschämt". Ein weiteres konkretes Symptom: Beim Nachfragen zu Responsible-Disclosure-Richtlinien stufte Fable ihn auf Opus herab, was Cohen als Zeichen hastiger und unausgereifter Guardrails wertet. Als Mitursache diskutiert er, dass Exportkontrollbeschränkungen für Fable Anthropic möglicherweise dazu gezwungen haben, Sicherheitsmechanismen überstürzt einzubauen. Darüber hinaus kritisiert Cohen, dass Chatbots ohne Authentifizierungskontext pauschal vom Schlechtesten ausgehen – etwa bei Bildgenerierungen mit zwei Personen – und schlägt optionales, opt-in-basiertes Authentifizierungssystem vor, das Nutzern mit legitimen professionellen Hintergründen mehr Spielraum gäbe. Den Rückgang der Gesprächsqualität setzt er in direkten Zusammenhang mit dem starken Fokus auf Coding-Benchmarks, für die es klare Metriken und kommerziellen Druck gebe, während Gesprächsqualität messbar kaum erfasst werde.
„Ironically this has resulted in an extremely misaligned chatbot. By assuming that its top priority is saving you from yourself or other humans from you it's assuming that it knows better.“
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.