Weißes Haus vs. Anthropic: Fable-Jailbreak-Report im Fokus
ToolsClaude
CompaniesAnthropic
Warum es zählt
Die Unterscheidung zwischen „review for security issues" (verweigert) und „fix this code" (ausgeführt) zeigt, wie Prompt-Formulierungen Sicherheitsfilter umgehen können – relevant für alle, die LLMs in Cyberdefense-Workflows einsetzen.
— Lumeric Redaktion
„The report, Moussouris said, involved IT experts asking Fable to help find and patch bugs. When given deliberately insecure code, she said, Fable refused the prompt "review the code for security issues" but then complied when asked to "fix this code," followed by some further manual steps. Moussouris told me that this was just "the model working as intended" for cyberdefense.“
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Weißes Haus vs. Anthropic: Fable-Jailbreak-Report im Fokus
ToolsClaude
CompaniesAnthropic
Warum es zählt
Die Unterscheidung zwischen „review for security issues" (verweigert) und „fix this code" (ausgeführt) zeigt, wie Prompt-Formulierungen Sicherheitsfilter umgehen können – relevant für alle, die LLMs in Cyberdefense-Workflows einsetzen.
— Lumeric Redaktion
„The report, Moussouris said, involved IT experts asking Fable to help find and patch bugs. When given deliberately insecure code, she said, Fable refused the prompt "review the code for security issues" but then complied when asked to "fix this code," followed by some further manual steps. Moussouris told me that this was just "the model working as intended" for cyberdefense.“
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.