Der Newsletter „The Stepback" von The Verge beleuchtet die Entwicklung sogenannter Jailbreaks – Angriffe, bei denen Nutzer KI-Chatbots dazu bringen, ihre Sicherheitsvorgaben zu ignorieren. In der Frühphase generativer KI-Systeme reichte oft eine schlichte Textaufforderung, um milliardenteure Modelle aus ihren Leitplanken zu drängen. Kein Code, kein technisches Fachwissen war nötig. Autor Robert Hart zeichnet nach, wie sich diese Angriffsmethoden seither weiterentwickelt haben: Hacker exploitieren zunehmend die modellierten „Persönlichkeiten" von Chatbots – also die durch Training und Prompt-Engineering entstandenen Charaktereigenschaften – statt nur oberflächliche Filtermechanismen zu umgehen. Der Artikel erscheint inmitten wachsender Debatte über die Robustheit von Alignment-Methoden und stellt die Frage, ob heutige Sicherheitsarchitekturen mit der Kreativität der Angreifer mithalten können.