AnythingLLM is the enterprise-ready "chat with your documents" solution that is safe, secure, and your whole company can use to chat with...anything! PDFs, .DOCx & more!
推荐语:AnythingLLM ,可以与任何内容聊天的私人 ChatGPT !高效、可定制、开源的企业级文档聊天机器人解决方案。它能够把各种文档、资料或者内容转换成一种格式,让 LLM(如 ChatGPT)在聊天时可以引用这些内容;然后你就可以用它来和各种文档、内容、资料聊天,支持多个用户同时使用,还可以设置谁能看或改哪些内容。
AnythingLLM 主要特点
多用户支持和权限管理:允许多个用户同时使用,并可设置不同的权限。
支持多种文档类型:包括 PDF、TXT、DOCX 等。
简易的文档管理界面:通过用户界面管理向量数据库中的文档。
两种聊天模式:对话模式保留之前的问题和回答,查询模式则是简单的针对文档的问答。
聊天中的引用标注:链接到原始文档源和文本。
简单的技术栈,便于快速迭代。
100% 云部署就绪。
“自带你的 LLM”模式:可以选择使用商业或开源的 LLM。
高效的成本节约措施:对于大型文档,只需嵌入一次,比其他文档聊天机器人解决方案节省 90% 的成本。
完整的开发者 API:支持自定义集成。
支持的 LLM、嵌入器和向量数据库
LLM:包括任何开源的 llama.cpp 兼容模型、OpenAI、Azure OpenAI、Anthropic ClaudeV2、LM Studio 和 LocalAi。
嵌入器:AnythingLLM 原生嵌入器、OpenAI、Azure OpenAI、LM Studio 和 LocalAi。
向量数据库:LanceDB(默认)、Pinecone、Chroma、Weaviate 和 QDrant。
AnythingLLM 技术概览
AnythingLLM 项目包含三个主要部分:
collector:Python 工具,可快速将在线资源或本地文档转换为 LLM 可用格式。
frontend:ViteJS + React 前端,用于创建和管理 LLM 可使用的所有内容。
server:NodeJS + Express 服务器,处理所有向量数据库管理和 LLM 交互。
为什么选择 AnythingLLM?官方给出以下理由:
适合各种规模的企业:只需单击一下即可实现细粒度的多用户许可、聊天访问控制等。
合规准备就绪:由于 AnythingLLM 适用于所有事物,因此您可以使用适合您业务的内容。
支持定制型号:AnythingLLM 不会将您锁定在单一的法学硕士提供商。使用 GPT-4 等企业模型、自定义模型或 Llama、Mistral 等开源模型。
不仅仅是 PDF:PDF、Word 文档等等构成了您的业务 - 现在您可以全部使用它们。
完全定制:凭借外观定制和完整的开发者 API,一切皆有可能。
为什么使用 AnythingLLM 而不是 ChatGPT 以及 PDF 插件?
使用 ChatGPT 时,您的对话和数据将由 OpenAI 收集。但是,当您使用 API 密钥构建自己的聊天机器人时,不会收集任何数据。对于通过插件上传的文档,您无法查看或控制文档的存储位置。但是,当您控制自己的数据库时,其他人都无法访问该数据,这使得 AnythingLLM 成为安全的选择。
总之,AnythingLLM 是一款全栈应用程序,使您能够将任何文档、资源或内容片段转换为任何 LLM 可以在聊天期间用作参考的上下文。该应用程序允许您选择要使用的 LLM 或矢量数据库,并支持多用户管理和权限。此外,它注重用户隐私、拥有完整的第三方控制、支持上传 PDF、Word 文档、文本文件等来扩展聊天机器人的知识、且 在 Github 开源:
https://github.com/Mintplex-Labs/anything-llm ,如果您对其感兴趣,可移步前往了解更多。
https://useanything.com
No comments:
Post a Comment