EN

Haystack:面向 Python 的开源 AI 编排框架

用于在 Python 中构建 LLM 应用的开源 AI 编排框架,可通过 pip 获取。

核验日期

核心信息

以下信息由程序从官方接口读取,不经模型改写。

许可证
Apache-2.0
语言
Python
维护方
deepset-ai
核验日期

它是什么

Haystack 是一个开源的 AI 编排框架,用于在 Python 中构建 LLM 应用。它可以设计模块化的管道和智能体工作流,并对检索、路由、记忆和生成进行明确控制。项目方称,它可以在透明的架构中构建 RAG 系统、多模态应用、语义搜索、问答和自主智能体。它可以定义管道和智能体工作流,使检索、记忆、工具和生成透明且可追踪。

主要能力

  1. 智能体可以通过生命周期钩子扩展行为,用于护栏和自定义逻辑,并且开箱即可跟踪步骤数、令牌用量和工具调用,用于监控和成本控制。

  2. 它可以设计灵活的系统,对信息在到达模型之前如何被检索、排序、过滤、组合、结构化和路由进行明确控制。

  3. 一个管道可以同步或异步运行,并逐个令牌地流式输出;智能体可以并发运行工具调用。

  4. 可以使用内置组件完成检索、索引、工具调用、记忆和评估,也可以自行创建;还可以添加循环、分支和条件逻辑,以精确控制上下文在管道和智能体工作流中的流动。

  5. 它可以与 OpenAI、Mistral、Anthropic、Cohere、Hugging Face、Google、Azure OpenAI、AWS Bedrock、本地模型以及许多其他服务集成,并且可以在不重写系统的情况下更换模型或基础设施组件。

  6. 可以通过一致的接口构建和共享自定义组件,社区和第三方可借此扩展 Haystack 并为开放生态做出贡献。

怎么上手

  1. 获取 Haystack 最简单的方式是通过 pip。

  2. 也可以安装每夜预发布版本,以试用最新功能。

  3. Haystack 支持多种安装方式,包括 Docker 镜像。

摘自 README · sh
pip install haystack-ai
摘自 README · sh
pip install --pre haystack-ai

适合谁

Hayhooks 可以用自定义逻辑包装管道和智能体,并通过 HTTP 端点或 MCP 对外提供。Hayhooks 还支持与 OpenAI 兼容的聊天补全端点。Haystack Enterprise Platform 帮助构建、测试、部署和运营 Haystack 管道,并内置可观测性、协作、治理和访问控制。

该平台可作为托管云服务或自托管方案使用。Haystack 会收集管道组件的匿名使用统计数据。Haystack 文档介绍了遥测以及如何选择退出。

贡献者不需要是 Haystack 专家,也能提供有意义的改进。贡献者可以为 Haystack 主项目做贡献。贡献者也可以贡献集成。

来源

本页内容整理自以下官方来源,点击可核对原文。

核验日期 ·

本页由 AI 依据上述官方来源整理,并经自动核对,未经本站实测。 发现错误?告诉我们。