Bisherige Interpretierbarkeits-Methoden wie Sparse Autoencoders, Attribution Graphs und Probes liefern entweder tausende schwer lesbare Latents, aufwändige Diagramme oder bloße Ja/Nein-Antworten. Anthropics Paper „Natural Language Autoencoders Produce Unsupervised Explanations of LLM Activations" geht einen anderen Weg: Ein NLA wird direkt auf einen Token in einem Claude-Opus-4.6-Transkript gerichtet und gibt wenige englische Bullet-Points aus, die beschreiben, was das Modell an dieser Stelle verarbeitet. Das System arbeitet unüberwacht – es benötigt keine manuell erstellten Labels. Der Hauptteil des Papers untersucht, ob und wie weit diesen automatisch generierten Erklärungen zu vertrauen ist. Damit rückt das Ziel, den internen Zustand großer Sprachmodelle in natürlicher Sprache beschreibbar zu machen, deutlich näher. Der vollständige Artikel ist hinter einer Paywall bei TheSequence verfügbar.