Haystack

Haystack är ett öppet AI-ramverk från deepset för att bygga produktionsklara agenter, RAG-applikationer och multimodal sökning i Python. Grundbyggstenarna är komponenter och pipelines: en pipeline är en graf som ni kopplar själv, så den körs likadant varje gång, medan en agent ger LLM:en stegvis kontroll. En agent kan vara ett steg i en pipeline, och en pipeline kan vara ett verktyg som en agent anropar.

Ramverket är modulärt och leverantörsoberoende: ni blandar modeller och tjänster från OpenAI, Anthropic, Mistral och Hugging Face med vektorbutiker som Weaviate, Pinecone och Elasticsearch utan att låsa in er. Pipelines kan serialiseras, är molnoberoende och Kubernetes-klara, och dokumentationen täcker loggning, övervakning och drift.

Licensen är Apache 2.0 och utvecklingen sker öppet med regelbundna utgåvor och release candidates; deepset erbjuder dessutom företagsstöd. Priset är att Haystack är ett ramverk, inte en färdig produkt: ni skriver Python-koden, designar grafen och driver själva drift, utvärdering och kostnadskontroll. Behöver ni en färdig chatbot eller sökmotor utan utvecklingsinsats passar en färdig applikation bättre; behöver ni kontroll över varje steg i ett RAG-flöde är Haystack i sin hemmaplan.