haystack

其他源码 2025-08-04
CI/CD
文档
包裹

haystack是一个端到端LLM框架,可让您构建由LLM,Transformer Models,Vector Search等提供支持的应用程序。无论您是要执行检索型生成(RAG),文档搜索,问答还是回答生成, haystack都可以将最新的嵌入模型和LLMS策划为管道中,以构建端到端的NLP应用程序并解决您的用例。

目录

  • 安装
  • 文档
  • 特征
  • 用例
  • Deepset AI平台(托管解决方案)
  • Hayhooks(REST API部署)
  • ?Deepset Studio
  • 遥测
  • ?社区
  • 为haystack做出了贡献
  • 谁使用haystack

安装

获得haystack最简单方法是通过PIP:

pip install haystack -ai

从主分支安装,尝试最新功能:

pip install git+https://git*h*ub.*com/deepset-ai/haystack.git@main

haystack支持包括Docker图像在内的多种安装方法。有关综合指南,请参阅文档。

文档

如果您是该项目的新手,请查看“什么是haystack ?”然后浏览“入门指南”,并在几分钟之内构建您的第一个LLM应用程序。通过教程继续学习。对于更高级的用例,或者只是为了获得一些灵感,您可以在食谱中浏览我们的haystack食谱。

在任何给定的时刻,请点击文档以了解有关haystack更多信息,它可以为您和背后的技术做什么。

特征

  • 技术不可知:允许用户灵活地确定他们想要的供应商或技术,并使其轻松将任何组件切换为另一个组件。 haystack允许您使用和比较来自Openai,Cohere和Hugging Face的模型,以及您自己的本地型号或在Azure,Bedrock和Sagemaker上托管的型号。
  • 明确:使其透明,不同的运动部件可以互相“交谈”,从而更容易适合您的技术堆栈和用例。
  • 灵活性: haystack在一个地方提供所有工具:数据库访问,文件转换,清洁,分裂,培训,评估,推理等。每当需要自定义行为时,就很容易创建自定义组件。
  • 可扩展:为社区和第三方提供一种统一,简便的方式,以建立自己的组件并在haystack周围建立一个开放的生态系统。

您可以使用haystack做什么的一些示例:

  • 通过使用可用的矢量数据库之一并自定义LLM交互来构建检索增强发电(RAG) ,天空是极限
  • 用自然语言进行问题回答,以在文档中找到细粒度的答案。
  • 执行语义搜索并根据含义检索文档。
  • 构建可以做出复杂决策来回答复杂查询的应用程序:例如可以解决复杂客户查询的系统,对许多断开的资源进行知识搜索等等。
  • 使用猎犬和生产规模的组件扩展到数百万的文档。
  • 使用现成的型号将它们调整到您的数据中。
  • 使用用户反馈评估,基准测试并不断改进模型。

提示

您是否正在寻找从haystack中受益的托管解决方案? DeepSet AI平台是我们完全管理的端到端平台,可将LLM与您的数据集成在一起,该平台将haystack用于LLM Pipelines体系结构。

提示

您想自己部署并提供haystack管道作为REST API吗? Hayhooks提供了一种用自定义逻辑包装管道的简单方法,并通过HTTP端点将其曝光,包括与OpenAI兼容的聊天完成端点,以及与Open-Webui(例如Open-Webui)的完整聊天接口的兼容性。

?DeepSet Studio:您的haystack开发环境

使用DeepSet Studio在视觉上创建,部署和测试您的haystack管道。在我们的公告文章中了解更多有关它的信息。

报名!

遥测

haystack收集管道组件的匿名用法统计信息。每当这些组件初始化时,我们都会收到一个活动。这样,我们知道哪些组成部分与我们的社区最相关。

阅读有关haystack中遥测的更多信息,或者您如何在haystack文档中选择退出。

?社区

如果您有功能请求或错误报告,请随时在Github中打开问题。我们会定期检查这些,您可以预期快速回复。如果您想讨论一个主题,或获得有关如何使haystack为您的项目工作的更多一般建议,则可以在Github讨论或我们的Discord频道中启动线程。我们还检查?(Twitter)和堆栈溢出。

为haystack做出了贡献

我们对社区的贡献非常开放 - 无论是错字的快速修复还是全新的功能!您无需成为haystack专家即可提供有意义的改进。要了解如何开始,请先查看我们的贡献指南。

您可以通过多种方式为haystack做出贡献:

  • 为主要的haystack项目做出贡献
  • 贡献在haystack - 核心融合上的集成

提示

查看对贡献开放的问题的完整列表

谁使用haystack

这是使用haystack的项目和公司的列表。想添加你的吗?打开PR,将其添加到列表中,让世界知道您使用haystack !

  • 空客
  • 阿尔卡特朗讯
  • 苹果
  • 更好
  • 数据映
  • 深点
  • etalab
  • Infineon
  • 英特尔
  • Intelijus
  • 英特尔实验室
  • 乐高
  • Netflix
  • NOS葡萄牙
  • Nvidia
  • POSTHOG
  • rakuten
  • sooth.ai
下载源码

通过命令行克隆项目:

git clone https://github.com/deepset-ai/haystack.git