In einem vieldiskutierten Thread auf r/LocalLLaMA schildert Nutzer TangeloOk9486 ein typisches Problem beim Aufbau lokaler Document-QA-Systeme: Die Ausgabequalität schwankt stark je nach PDF-Struktur. Während einfache Fließtextdokumente problemlos verarbeitet werden, liefern Tabellen und mehrspältige Layouts nach der Extraktion mit pymupdf oder pdfplumber oft fragmentierten oder falsch geordneten Text, den das Sprachmodell dann unkritisch übernimmt. Der Nutzer steht nun vor der Entscheidung zwischen Docling – einem Open-Source-Tool von IBM, das lokal betrieben werden kann – und LlamaParse, dem Cloud-Dienst von LlamaIndex. Beide Tools versprechen robustere Erkennung komplexer PDF-Layouts, unterscheiden sich aber wesentlich in Datenschutz, Latenz und Offline-Fähigkeit. Die Diskussion spiegelt ein verbreitetes Problem in der Local-LLM-Community wider: Die Vorverarbeitungspipeline wird oft unterschätzt, obwohl sie einen direkten Einfluss auf die Antwortqualität hat.