Der Artikel von AWS-Ingenieuren Keita Watanabe, Pavel Belevich und Aman Shanbhag beschreibt, wie sich die Anforderungen an Infrastruktur entlang der drei Scaling-Regime – Pre-Training, Post-Training (SFT, RL) und Test-Time Compute – angleichen. Als gemeinsame Nenner gelten eng gekoppeltes Accelerator-Compute, Hochbandbreiten-Netzwerke mit niedriger Latenz sowie verteilter Storage für Daten und Checkpoints. AWS bietet dafür mehrere GPU-Generationen an: Die P5-Familie umfasst p5.48xlarge (8× NVIDIA H100), p5e/p5en mit H200-GPUs (141 GB HBM3e, 4,8 TB/s), während die neue P6-Familie Blackwell B200 (p6-b200.48xlarge, 180 GB HBM3e, 8 TB/s) und Blackwell Ultra B300 (p6-b300.48xlarge, 288 GB HBM3e, 8 TB/s) einführt. Der FP4-Durchsatz des B300 erreicht 13,5 PFLOPS (dense). Auf der Software-Seite setzt AWS auf OSS-Stacks: Slurm und Kubernetes für Ressourcenmanagement, PyTorch und JAX für Modellentwicklung, Prometheus und Grafana für Observability. Der Artikel ist der Auftakt einer mehrteiligen Blogserie, die die einzelnen Schichten dieser Architektur detailliert durchleuchtet.