haiku.rag:Agentic RAG · AI Nav City

核心信息

以下信息由程序从官方接口读取，不经模型改写。

仓库地址: https://github.com/ggozad/haiku.rag
许可证: MIT
语言: Python
维护方: ggozad
主页: https://ggozad.github.io/haiku.rag/
核验日期: 2026-11-01

它是什么

haiku.rag 是 Agentic RAG,针对你自己的文档回答问题,并给出页码和章节标题的引用。它默认运行在嵌入式 LanceDB 数据库上,并通过 Ollama 使用开放模型。在该设置下不需要服务器或 API 密钥。Pydantic AI 支持的提供商可以替代通过 Ollama 使用的开放模型。

主要能力

haiku.rag 可以用 Docling 摄取 PDF、办公文档、HTML、Markdown 和图片,方式为进程内或在 docling-serve 上。
haiku.rag 的搜索使用向量与全文混合检索。
haiku.rag 的搜索提供可选的重排序,包括交叉编码器、Jina、Cohere、Zero Entropy、vLLM 和 OpenRouter。
通过 RAG 能力,它会搜索、对文档运行沙箱 Python 以进行计数和聚合,并引用页码和标题。
haiku.rag 可以在页面图像上绘制引用对应的片段来检查引用,方式包括命令行、聊天 TUI 或 Python。
haiku.rag 的接入方式包括面向 Claude Code、Codex 和 Claude Desktop 的 MCP 服务器,以及一个参考 Web 应用。

怎么上手

默认配置使用 Ollama 处理嵌入和回答。
从已配置来源进行的持续摄取作为单独的服务运行。
MCP 服务器为助手提供搜索、文档阅读以及覆盖这些文档的 Python 沙箱。

摘自 README · bash

pip install haiku.rag        # Docling, the VoyageAI and Cohere embedders, every reranker, the TUI
pip install haiku.rag-slim   # the core, with extras chosen by you

摘自 README · bash

haiku-rag init                                  # create the database
haiku-rag add-src paper.pdf                     # index a file, URL or directory
haiku-rag search "attention mechanism"
haiku-rag ask "What datasets were used for evaluation?"
haiku-rag ask "How many documents mention transformers?"
haiku-rag ask "Does this figure match the spec?" --image figure.png
haiku-rag chat                                  # multi-turn chat in the terminal

摘自 README · bash

haiku-ingester serve

摘自 README · bash

haiku-rag mcp --stdio

摘自 README · bash

claude plugin marketplace add ggozad/haiku.rag
claude plugin install haiku-rag

适合谁

haiku.rag 需要 Python 3.12 或更新版本。摄取器、S3 访问,以及 Ollama 和兼容 OpenAI 的端点之外的模型提供商都属于额外组件。同一个数据库可以存放在 S3、GCS、Azure 或 LanceDB Cloud 上。

存储的 DoclingDocument 保留标题、表格、图片和页面来源。haiku.rag 的搜索包括感知章节的上下文扩展。haiku.rag 的搜索包括使用多模态嵌入器的图像搜索,可选 vLLM、OpenRouter、VoyageAI、Cohere。

搜索可以同时跨多个具名数据库进行。视觉模型会接收到图表。可选能力会在长对话中压缩较早的证据,并要求每个回答声明其依据。

haiku.rag 的接入方式还包括观察文档写入并转换搜索的插件钩子。haiku.rag 的接入方式还包括 Python API 和原生 Pydantic AI 能力。摄取器服务提供文件系统、HTTP、S3 和 WebDAV 来源,带重试的 SQLite 或 Postgres 作业队列,以及控制面和仪表板。

Docker 设置示例涵盖 docling-serve、摄取器和 MCP 服务器。Web 应用示例在浏览器中提供聊天、摄取、检查器和 doctor。

本站已收录的相关工具。