ByteDance Seed hat untersucht, wie sich verschiedene Trainingsstrategien auf die Fähigkeit großer multimodaler Sprachmodelle (LMMs) auswirken, lange, bildreiche Dokumente zu verstehen. Der zentrale Befund: Wenn ein Modell während des Trainings lernt, Fragen zu beantworten und relevante Passagen selbstständig zu lokalisieren, schneidet es deutlich besser ab, als wenn es lediglich Texte aus Dokumentseiten transkribiert. Besonders bemerkenswert ist, dass ein 7B-Modell mit diesem Ansatz auch deutlich größere Modelle übertreffen kann. Zudem generalisiert das so trainierte Modell auf Dokumente, die viermal länger sind als jene, auf denen es trainiert wurde – ein klares Zeichen für bessere strukturelle Generalisierung. Die Studie liefert damit konkrete Hinweise für die Gestaltung von Trainingsdaten und -zielen im Bereich Document Understanding.