Import AI 457: KI-Stuxnet, Muon-Optimizer-Fehler und positives Alignment
Import AI Ausgabe 457 bündelt drei inhaltlich unterschiedliche Forschungsthemen. Erstens analysiert SentinelOne den Virus fast16.sys, der bereits vor Stuxnet aktiv war und gezielt Hochpräzisions-Berechnungssoftware manipulierte – darunter LS-DYNA 970, PKPM und die MOHID-Plattform, die in Strukturanalyse, Crash-Tests und Umweltsimulationen eingesetzt werden. Das Virus injizierte fehlerhafte Floating-Point-Berechnungen, um wissenschaftliche Einrichtungen systematisch zu sabotieren. Clark zieht die Parallele, dass eine Superintelligenz ähnliche Techniken für KI-Nichtverbreitung nutzen könnte. Zweitens decken Tilde-Research-Forscher einen strukturellen Fehler im Muon-Optimizer auf: Durch Row-Norm-Anisotropie sterben in MLP-Layern bereits in den ersten 500 Trainingsschritten mehr als 25 % der Neuronen dauerhaft ab. Als Antwort entwickeln sie Aurora, einen leverage-aware Optimizer für rechteckige Matrizen. Im Vergleich auf 1,1-Milliarden-Parameter-Transformern mit rund 100 Milliarden Token erreicht Aurora einen finalen Loss von 2,26 gegenüber 2,31 (Muon) und 2,33 (NorMuon) sowie einen um 10 MMLU-Punkte höheren Score. Forscher Alexander Doria von Pleias bestätigte die Ergebnisse unabhängig auf einem 600M-Modell. Drittens skizziert ein multidisziplinäres Positionspapier das Konzept „positives Alignment" – Ausrichtung nicht nur auf Schadensvermeidung, sondern auf menschliches Aufblühen.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
Import AI 457: KI-Stuxnet, Muon-Optimizer-Fehler und positives Alignment
Import AI Ausgabe 457 bündelt drei inhaltlich unterschiedliche Forschungsthemen. Erstens analysiert SentinelOne den Virus fast16.sys, der bereits vor Stuxnet aktiv war und gezielt Hochpräzisions-Berechnungssoftware manipulierte – darunter LS-DYNA 970, PKPM und die MOHID-Plattform, die in Strukturanalyse, Crash-Tests und Umweltsimulationen eingesetzt werden. Das Virus injizierte fehlerhafte Floating-Point-Berechnungen, um wissenschaftliche Einrichtungen systematisch zu sabotieren. Clark zieht die Parallele, dass eine Superintelligenz ähnliche Techniken für KI-Nichtverbreitung nutzen könnte. Zweitens decken Tilde-Research-Forscher einen strukturellen Fehler im Muon-Optimizer auf: Durch Row-Norm-Anisotropie sterben in MLP-Layern bereits in den ersten 500 Trainingsschritten mehr als 25 % der Neuronen dauerhaft ab. Als Antwort entwickeln sie Aurora, einen leverage-aware Optimizer für rechteckige Matrizen. Im Vergleich auf 1,1-Milliarden-Parameter-Transformern mit rund 100 Milliarden Token erreicht Aurora einen finalen Loss von 2,26 gegenüber 2,31 (Muon) und 2,33 (NorMuon) sowie einen um 10 MMLU-Punkte höheren Score. Forscher Alexander Doria von Pleias bestätigte die Ergebnisse unabhängig auf einem 600M-Modell. Drittens skizziert ein multidisziplinäres Positionspapier das Konzept „positives Alignment" – Ausrichtung nicht nur auf Schadensvermeidung, sondern auf menschliches Aufblühen.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.