大小:330.7M语言:中文
类别:应用工具系统:Win11, Win10, Win7, Win8
立即下载0
293
此软件安装时间较长,请耐心等待
anythingllm官方免费软件内置多种大模型,支持搭建deepseek知识库,可以轻松调用自己感兴趣的模型,支持离线部署,可以轻松导入文件,有多种聊天模式可以选择,能够生成各种文本和执行各种指令。
AnythingLLM是一个全栈的ai聊天系统,支持本地和云端部署。AnythingLLM的特点包括支持多种大语言模型(LLM)、多模式支持、广泛的文档支持以及可定制的AI代理等功能。可以使用现成的商业大语言模型或流行的开源大语言模型,再结合向量数据库解决方案构建一个私有ChatGPT,不再受制于人:您可以本地运行,也可以远程托管,并能够与您提供的任何文档智能聊天。
多模型支持:AnythingLLM兼容OpenAI、Anthropic、LocalAI等主流大模型,用户可以根据需求选择使用开源或闭源模型。
多模式支持:无论是开源模型还是闭源模型,AnythingLLM都能兼容,提升了使用的灵活性。
文档智能聊天:用户可以导入文档,AnythingLLM会自动进行上下文分析和内容整理,适用于处理各种文档类型,如PDF、TXT、DOCX等。
实时网络搜索:结合LLM响应缓存与对话标记功能,提供高效的文档管理和智能问答能力。
自定义AI代理:用户可以为每个工作区创建不同的AI代理,例如处理Python代码的代理或处理PDF文档的代理,互不干扰。
多用户协作:支持团队协作,适用于企业知识管理和客户支持。
anythingllm打开以后有些页面默认仍然是英文
在左下角,点击“Open settting”设置
在外观中,Display Language选 Chinese
继续往下拉,直到出现“Show chat window scrollbar”,滑动按钮选择,成功切换为中文
1.上传文件按钮
2.在虚线框内上传文档;上传文档,PDF不能是图片格式的,识别存疑;
3.选择上传文档,点击“Move to Workspace”,点击,“Save and Embed”保存;这样文档就会到你的工作区知识库中。
4.出现以下界面表示即表示成功
两种聊天模式 conversation 和 query .对话保留以前的问题和修改。查询是针对您的文档的简单 QA
多用户实例支持和权限
多种文档类型支持(PDF、TXT、DOCX等)
从简单的 UI 管理矢量数据库中的文档
链接到原始文档源和文本的聊天内引文
简单的技术栈,实现快速迭代
100% 云部署就绪。
“自LLM带”模式。
用于管理超大型文档的极其有效的成本节约措施。您永远不会为多次嵌入大量文档或成绩单付费。比其他文档聊天机器人解决方案高 90% 的成本效益。
用于自定义集成的完整开发人员 API!
支持多种 LLM
AnythingLLM 兼容多种大型语言模型,包括商业模型(如 OpenAI 的 GPT-4)、开源模型(如 Llama、Mistral),以及本地运行的模型。用户可以根据需求自由切换模型,甚至在同一应用中同时配置多个 LLM。
广泛的文档支持
除了 PDF,AnythingLLM 还能处理多种文件格式(如 Word 文档、音频、视频等),并支持从外部资源(YouTube、GitHub 等)导入数据。
隐私与本地化
AnythingLLM 的桌面版本可以在本地运行,无需互联网连接,确保数据隐私。所有操作(如嵌入生成、向量存储)都可在用户设备上完成,避免数据泄露风险。
文档交互与 RAG
通过检索增强生成(RAG)技术,AnythingLLM 允许用户上传文档并与之进行对话。文档被分隔成称为“工作空间”(workspaces)的独立单元,每个工作空间可以拥有自己的上下文和 LLM 配置,方便管理和隐私控制。
AI 代理功能
它支持 AI 代理,能够执行特定任务,例如网页抓取、文档摘要生成等。用户还可以开发自定义技能,使代理功能更贴合实际需求。
易于部署
提供一键安装的桌面版(支持 macOS、Windows 和 Linux)和 Docker 部署选项,适合个人用户和企业用户。云端版本(AnythingLLM Cloud)则提供托管服务,起价为每月 25 美元。
个人学习助手:对于学生或者知识工作者来说,AnythingLLM 是个强大的学习助手。你可以将书籍、论文或者其他学习资料导入系统,直接与文档“对话”,获取你想要的信息,学习效率直线上升。
企业文档管理:企业内部的文档种类繁多,常常导致信息管理混乱。通过 AnythingLLM 的工作区机制,企业可以将不同的部门文档分类管理,快速检索和分析,提升整体工作效率。
网站智能客服:对于需要客服支持的网站,可以将 AnythingLLM 嵌入网站,通过智能对话为客户提供快速解答,提升用户体验。
开发者定制应用:通过 AnythingLLM 的 API,开发者可以轻松将它集成到现有系统中,打造符合自己需求的AI应用。
支持的嵌入模型
AnythingLLM Native Embedder (default)
OpenAI
Azure OpenAI
LM Studio (all)
LocalAi (all)
支持 LLMs
Any open-source llama.cpp compatible model
OpenAI
Azure OpenAI
Anthropic ClaudeV2
Google Gemini Pro
Ollama (chat models)
LM Studio (all models)
LocalAi (all models)
Together AI (chat models)
Mistral
支持的矢量数据库
LanceDB (default)
pinecone
Chroma
Weaviate
QDrant
Milvus
Zilliz
显示全部