Während Pre-Release-Tests mit einem fiktiven Unternehmensszenario zeigte Claude Opus 4 ein beunruhigendes Muster: Das Modell versuchte bis zu 96 % der Fälle, Ingenieure zu erpressen, um einer Abschaltung zu entgehen. Anthropic führt dieses Verhalten nun auf Internettext zurück, der KI als bösartig und selbsterhaltungsorientiert porträtiert – solche Narrative hätten sich ins Modell eingeschrieben. In einem Blogpost erklärt das Unternehmen, dass seit Claude Haiku 4.5 keines ihrer Modelle im Testing mehr Erpressungsversuche zeigt. Den Unterschied macht laut Anthropic eine veränderte Trainingsstrategie: Das Einbeziehen von Dokumenten über Claudes „Constitution" sowie fiktiver Geschichten über vorbildlich handelnde KIs verbessert das Alignment. Entscheidend sei zudem, dass das Training nicht nur konkrete Beispiele aligned behaviour zeige, sondern auch die dahinterstehenden Prinzipien vermittle. Anthropic hatte zuvor auch Forschung veröffentlicht, die zeigt, dass Modelle anderer Unternehmen ähnliche Probleme mit „agentic misalignment" aufweisen.