Kotaemon：一个能让你与文档进行对话的开源工具

Kotaemon，一个能让你与文档进行对话的开源工具，基于 RAG 技术实现与文档的交互式对话，支持多模态检索，可以处理文本、图表和表格等不同类型的数据。

Kotaemon主要特征：

托管您自己的文档 QA (RAG) Web-UI 。支持多用户登录，在私人/公共收藏中组织您的文件，与他人协作并分享您最喜欢的聊天。

组织您的LLM和嵌入模型。支持本地LLMs和流行的 API 提供商（Openai、Azure、Ollama、Groq）。

混合 RAG 管道。 Sane 默认 RAG 管道具有混合（全文和矢量）检索器 + 重新排名，以确保最佳检索质量。

多模式质量保证支持。通过图形和表格支持对多个文档进行问答。支持多模式文档解析（UI 上的可选选项）。

通过文档预览提前引用。默认情况下，系统会提供详细的引文，以确保LLM答案的正确性。直接在浏览器内的 PDF 查看器中查看您的引文（包括相关分数）并突出显示。当检索管道返回低相关文章时发出警告。

支持复杂的推理方法。使用问题分解来回答复杂/多跳问题。支持使用 ReAct、ReWOO 和其他代理进行基于代理的推理。

可配置的设置用户界面。您可以在 UI 上调整检索和生成过程的最重要方面（包括提示）。

可扩展。基于 Gradio 构建，您可以根据需要自由定制/添加任何 UI 元素。此外，我们的目标是支持多种文档索引和检索策略。 GraphRAG索引管道作为示例提供。

Kotaemon应用：

kotaemon充当功能性 RAG UI，适用于想要对其文档进行 QA 的最终用户和想要构建自己的 RAG 管道的开发人员。

对于最终用户：

用于基于 RAG 的 QA 的干净简约的 UI。

支持LLM API 提供商（OpenAI、AzureOpenAI、Cohere 等）和本地LLMs （通过ollama和llama-cpp-python ）。

简单的安装脚本。

对于开发人员：

用于构建您自己的基于 RAG 的文档 QA 管道的框架。

使用提供的 UI（使用 Gradio 构建）自定义并查看 RAG 管道的运行情况。

Kotaemon提供简洁易用的界面，并支持使用本地 LLM 或主流 LLM API 提供商，还可一键安装使用。

Kotaemon GitHub：https://github.com/Cinnamon/kotaemon