Context Engineering: HumanLayer-CEO Dex Horthy über zuverlässige LLM-Anwendungen
Dex Horthy, CEO und Mitgründer von HumanLayer, prägte den Begriff „Context Engineering" und entwickelte auf Basis von Gesprächen mit rund 100 AI Engineers die „12-Factor Agents" – ein Framework für zuverlässige LLM-Anwendungen, das gängige Frameworks wie LangChain und CrewAI bewusst hinter sich lässt. Sein zentrales Argument: Nicht die Größe des Kontextfensters entscheidet über Modell-Performance, sondern das gezielte Management dessen, was darin landet. In einem Selbstversuch ab Juli 2025 ließ Horthy ein Modell ohne menschliches Code-Review schreiben – nach vier Monaten musste das gesamte System weggeworfen werden, weil ein falsch gerouteter Primary Key das gesamte System unbrauchbar machte und selbst Claude Opus 4.1 die Ursache nicht finden konnte. Als Heuristik empfiehlt er, bei einem 1-Million-Token-Fenster nur 300–400K Token zu befüllen, bevor die sogenannte „Dumb Zone" einsetzt, in der das Modell zunehmend fehlerhafte Entscheidungen trifft. Für komplexere Projekte setzt Horthy auf intentionale Context-Compaction: Lange, rauschreiche Sessions werden in komprimierte Markdown-Dokumente überführt, die als Startpunkt neuer, sauberer Sessions dienen – eine Art manuelles Gedächtnis-Management für Agenten. Er kritisiert zudem, dass aktuelle Coding-Modelle auf SWE-Bench-ähnlichen Benchmarks optimiert werden, die schlechte Architekturentscheidungen strukturell nicht bestrafen können, da sich Architekturqualität nicht per Unit-Test messen lässt.
„The less of the context window that is used, the better the outcomes are.“
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- MEINUNGtowardsdatascience.com2w
Context Engineering für Data Scientists: Neue Ansätze im Überblick
- MEINUNGtowardsdatascience.com1w
Validity Layer gegen veraltete Kontextfenster-Daten
- MEINUNGinfoq.com1w
Context Engineering für produktionsreife LLM-Architekturen mit Redis
- FORSCHUNGarxiv.org4d
Framework für kontextbasierte LLM-Nutzung in der Systemarchitekturmodellierung
Context Engineering: HumanLayer-CEO Dex Horthy über zuverlässige LLM-Anwendungen
Dex Horthy, CEO und Mitgründer von HumanLayer, prägte den Begriff „Context Engineering" und entwickelte auf Basis von Gesprächen mit rund 100 AI Engineers die „12-Factor Agents" – ein Framework für zuverlässige LLM-Anwendungen, das gängige Frameworks wie LangChain und CrewAI bewusst hinter sich lässt. Sein zentrales Argument: Nicht die Größe des Kontextfensters entscheidet über Modell-Performance, sondern das gezielte Management dessen, was darin landet. In einem Selbstversuch ab Juli 2025 ließ Horthy ein Modell ohne menschliches Code-Review schreiben – nach vier Monaten musste das gesamte System weggeworfen werden, weil ein falsch gerouteter Primary Key das gesamte System unbrauchbar machte und selbst Claude Opus 4.1 die Ursache nicht finden konnte. Als Heuristik empfiehlt er, bei einem 1-Million-Token-Fenster nur 300–400K Token zu befüllen, bevor die sogenannte „Dumb Zone" einsetzt, in der das Modell zunehmend fehlerhafte Entscheidungen trifft. Für komplexere Projekte setzt Horthy auf intentionale Context-Compaction: Lange, rauschreiche Sessions werden in komprimierte Markdown-Dokumente überführt, die als Startpunkt neuer, sauberer Sessions dienen – eine Art manuelles Gedächtnis-Management für Agenten. Er kritisiert zudem, dass aktuelle Coding-Modelle auf SWE-Bench-ähnlichen Benchmarks optimiert werden, die schlechte Architekturentscheidungen strukturell nicht bestrafen können, da sich Architekturqualität nicht per Unit-Test messen lässt.
„The less of the context window that is used, the better the outcomes are.“
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- MEINUNGtowardsdatascience.com2w
Context Engineering für Data Scientists: Neue Ansätze im Überblick
- MEINUNGtowardsdatascience.com1w
Validity Layer gegen veraltete Kontextfenster-Daten
- MEINUNGinfoq.com1w
Context Engineering für produktionsreife LLM-Architekturen mit Redis
- FORSCHUNGarxiv.org4d
Framework für kontextbasierte LLM-Nutzung in der Systemarchitekturmodellierung