Interpretierbarkeit · Strukturelle Ansätze verdrängen Post-hoc-Erklärungen

Aktueller Stand

Das Feld der Interpretierbarkeit verschiebt sich strukturell: Statt Modelle nachträglich zu erklären, werden Transparenz und Nachvollziehbarkeit zunehmend ins Architekturdesign selbst integriert. Dieser Trend zeigt sich in mehreren parallelen Forschungssträngen – von Concept Bottleneck Models über modulare PDE-Surrogate bis zu Graph-Embeddings, die Erklärbarkeit durch Konstruktion liefern.

Gleichzeitig häufen sich Befunde, die Post-hoc-Methoden grundlegend in Frage stellen: Physikalisch inkonsistente XAI-Artefakte, fehlgeleitete Attribution bei Tabellen-Reasoning und Alignment-Audits, die interne Routing-Mechanismen übersehen, zeigen die Grenzen bestehender Praxis. Die Forschungsfront liegt derzeit weniger bei einem einzelnen dominanten Akteur als bei einer breit verteilten akademischen Grundlagenarbeit – mit starkem Gewicht auf formale Garantien, kausale Methoden und domänenspezifische Anwendungen in Medizin, Physik und Neurowissenschaft.

Wichtigste Updates

Graph Concept Bottleneck Models adressieren korrelierte Konzepte. Bisherige CBM-Architekturen behandelten Konzepte als unabhängig – eine Annahme, die in der Praxis selten hält. GraphCBMs modellieren Abhängigkeiten zwischen Konzepten explizit als Graph und ermöglichen damit präzisere Eingriffe bei gleichzeitig höherer Modellrobustheit. Das ist ein methodischer Schritt, der CBMs für reale, hochkorrelierte Domänen erst praktikabel macht.

RSAT zeigt: Attribution muss trainiert, nicht nachgerechnet werden. Beim Tabellen-Reasoning in kleinen Sprachmodellen versagen Post-hoc-Attributionsmethoden systematisch. RSAT verankert zellenbasierte Begründungen direkt im Trainingsprozess – einzelne Tabellenzellen werden als explizite Evidenz für jede Schlussfolgerung dokumentiert. Der Befund hat Implikationen weit über SLMs hinaus: Er stützt das Argument, dass Interpretierbarkeit als Trainings-Constraint, nicht als Nachbearbeitung, anzulegen ist.

Physikalische Konsistenz als neues XAI-Gütekriterium. Standard-XAI-Methoden erzeugen in Physik-Domänen unphysikalische Artefakte. Ein neues Verfahren bewertet die Multiskalen-Robustheit von Erklärungen explizit gegen physikalische Gesetzmässigkeit – relevant für Turbulenz- und Kosmologie-Simulationen, wo fehlerhafte Erklärungen nicht bloss irreführend, sondern operativ gefährlich wären.

Alignment-Audits übersehen interne Zensur-Routing-Mechanismen. Refusal-fokussierte Benchmarks erkennen keine Narrativ-Lenkung: Wenn Modelle nicht verweigern, sondern umlenken, schlagen Standard-Evaluationen blind an. Das stellt die Aussagekraft eines Grossteils bestehender Alignment-Evaluationen in Frage und verlangt tiefere mechanistische Analyse interner Routing-Strukturen.

Formale Fairness-Verifikation mit PyFair. PyFair ermöglicht rigorose, formale Fairness-Tests an trainierten neuronalen Netzen – auch nach Bias-Mitigationsmassnahmen. In Anwendungsbereichen wie Kreditvergabe oder Personalentscheiden schliesst das Lücken, die statistische Standardevaluationen systematisch übersehen. Der Ansatz ergänzt das verwandte Paper zu Feature-Abhängigkeiten bei Fairness-Klassifikatoren, das ebenfalls formale Definitionen unterschiedlicher Fairness-Begriffe etabliert.

Was zu erwarten

Die vorliegenden Posts enthalten keine expliziten Ankündigungen bevorstehender Releases oder Produkt-Launches im Bereich Interpretierbarkeit. Was sich aus den Forschungssignalen ableiten lässt: Die laufende Arbeit an formalen Fehlerschranken für Spline-Netze wie Kolmogorov-Arnold Networks deutet auf einen wachsenden Fokus auf mathematisch garantierte Verhaltensgrenzen hin – ein Vorläufer für sicherheitskritische Zertifizierungsanforderungen. Parallel signalisiert die Häufung kausaler Methoden ohne Kausal-Graph-Vorannahmen, dass robustere, annahmeärmere Erklärbarkeits-Frameworks in der Pipeline sind. Ob und wann diese Grundlagenarbeiten in tooling-fähige Bibliotheken überführt werden, lässt sich aus den vorliegenden Posts nicht belegen.