Haystack

So steigst du ein

Schritt 1: Installiere das Framework mit pip install haystack-ai und lege eine erste Pipeline an. Haystack denkt in Komponenten, die über eine Pipeline-Definition verbunden werden — jede Komponente hat definierte Inputs und Outputs. Das ist anfangs ungewohnter als LangChain-Chains, skaliert aber bei wachsender Komplexität deutlich sauberer.

Schritt 2: Wähle deinen Document Store (Qdrant, Weaviate, Elasticsearch oder der eingebaute In-Memory-Store für Tests) und verbinde ihn über den DocumentWriter. Für technische Datenblätter im PDF-Format empfiehlt sich die Kombination mit PyPDFDocumentConverter — damit landen Tabellen und strukturierte Daten korrekt im Index statt als Fließtext.

Schritt 3: Baue eine RAG-Pipeline aus InMemoryEmbeddingRetriever + PromptBuilder + LLM-Komponente, teste sie auf deinem eigenen Dokumentenset, und wechsle erst dann auf den Produktiv-Document-Store. deepset stellt gut gepflegte Jupyter-Notebook-Tutorials für alle Standardpipelines bereit.

Ein konkretes Beispiel

Ein Compound-Hersteller mit 1.800 technischen Datenblättern und Prüfberichten richtet ein Haystack-System auf Hetzner-Servern in Nürnberg ein. Die PDFs enthalten Tabellen zur Chemikalienbeständigkeit — mit Haystack’s AzureOCRDocumentConverter werden auch gescannte Altdokumente zuverlässig eingelesen. Das System beantwortet Anfragen zu Medienbeständigkeit und HDT-Werten in unter 4 Sekunden, mit direktem Verweis auf Datenblatt-Name und Tabellenzeile. Token-Kosten pro Anfrage liegen bei rund 1.600 Tokens — deutlich unter dem LangChain-Pendant. AVV mit deepset nach deutschem Recht, Daten verlassen Deutschland nicht.