Auf der PyTorch Conference 2025 demonstrierte AMD lineare Skalierung über mehr als 1.000 GPUs hinaus auf AMD-Instinct-Clustern – realisiert durch Primus-Turbo, eine AMD-eigene Optimierungsbibliothek für Trainings-Frameworks wie TorchTitan. Diese Demonstration war jedoch zunächst an den proprietären Fork gebunden. Inzwischen wurden die zugrundeliegenden Optimierungen in die offiziellen Upstream-Repositories pytorch/AO und pytorch/TorchTitan gemergt, sodass AMD Instinct GPUs nun ohne zusätzliche Abhängigkeiten nativ unterstützt werden. Im Mittelpunkt steht FP8-Training, das gegenüber höherpräzisen Formaten wie BF16 den Speicherbedarf und die Rechenzeit deutlich reduziert und besonders beim Training großer Sprachmodelle relevant ist. TorchAO übernimmt dabei die Quantisierungslogik, während TorchTitan als skalierbare Trainings-Referenzarchitektur fungiert. Durch das Upstreaming profitieren Entwickler direkt von kompetitiver FP8-Performance auf AMD-Hardware, ohne proprietäre Forks pflegen oder einsetzen zu müssen. Die Änderungen sind bereits in beiden Repositories zusammengeführt und stehen der Community zur Verfügung.