Encoder sind die technische Grundlage dafür, dass KI-Systeme Eingaben wie Text, Bilder oder Audio überhaupt „verstehen" können – sie wandeln rohe, unstrukturierte Daten in dichte, mathematische Vektorrepräsentationen um, mit denen Modelle weiterarbeiten. Die Entwicklung begann mit einfachen, eindimensionalen Ansätzen wie Bag-of-Words oder frühen Word-Embeddings (z. B. Word2Vec), die Wörter als statische Vektoren abbildeten, ohne Kontext zu berücksichtigen. Mit der Einführung rekurrenter Netze (RNNs) und später der Transformer-Architektur wurde kontextabhängiges Verständnis möglich: Encoder wie BERT lernten, die Bedeutung eines Wortes in Abhängigkeit seiner Umgebung zu repräsentieren. Multimodale Encoder wie CLIP von OpenAI gingen einen Schritt weiter und lernten gemeinsame Repräsentationen für verschiedene Modalitäten – etwa Text und Bild –, sodass eine Textbeschreibung und ein passendes Foto im selben Vektorraum landen. Dieser Ansatz ermöglicht Anwendungen wie bild-basierte Suche, visuelle Frage-Antwort-Systeme und die Grundlage moderner generativer Modelle. Der Artikel ordnet diese Entwicklungsschritte didaktisch ein und richtet sich an Leserinnen und Leser, die verstehen wollen, wie KI-Systeme intern mit Information umgehen – bevor ein einziges Wort generiert oder ein Bild erzeugt wird.