Weißes Haus vs. Anthropic: Fable-Jailbreak-Report im Fokus
„The report, Moussouris said, involved IT experts asking Fable to help find and patch bugs. When given deliberately insecure code, she said, Fable refused the prompt "review the code for security issues" but then complied when asked to "fix this code," followed by some further manual steps. Moussouris told me that this was just "the model working as intended" for cyberdefense.“
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- MEINUNGsimonwillison.net3w
Exportkontrolle gegen Claude Fable 5 basiert auf harmlosem Bug-Fix-Prompt
- MEINUNGthezvi.substack.com3w
Kein Jailbreak: US-Behörde stoppt Anthropic-Modell Fable wegen „fix this code"
- FORSCHUNGarxiv.org5d
Workflow-Level Jailbreaks umgehen Sicherheitsfilter in IDE Coding Agents vollständig
- FORSCHUNGarxiv.org1w
SMT: Jailbreak-Angriff auf Function-Calling-LLMs via gefälschte Moderations-Traces
Weißes Haus vs. Anthropic: Fable-Jailbreak-Report im Fokus
„The report, Moussouris said, involved IT experts asking Fable to help find and patch bugs. When given deliberately insecure code, she said, Fable refused the prompt "review the code for security issues" but then complied when asked to "fix this code," followed by some further manual steps. Moussouris told me that this was just "the model working as intended" for cyberdefense.“
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- MEINUNGsimonwillison.net3w
Exportkontrolle gegen Claude Fable 5 basiert auf harmlosem Bug-Fix-Prompt
- MEINUNGthezvi.substack.com3w
Kein Jailbreak: US-Behörde stoppt Anthropic-Modell Fable wegen „fix this code"
- FORSCHUNGarxiv.org5d
Workflow-Level Jailbreaks umgehen Sicherheitsfilter in IDE Coding Agents vollständig
- FORSCHUNGarxiv.org1w
SMT: Jailbreak-Angriff auf Function-Calling-LLMs via gefälschte Moderations-Traces