一个综合性人工智能应用程序,利用大型语言模型(LLM),它允许用户与任何文档、资源(如网址链接、音频、视频)或内容片段进行交互。
一、软件介绍
AnythingLLM是一个全栈应用程序,您可以使用现成的商业大语言模型或流行的开源大语言模型,再结合向量数据库解决方案构建一个私有ChatGPT,不再受制于人:您可以本地运行,也可以远程托管,并能够与您提供的任何文档智能聊天。
AnythingLLM将您的文档划分为称为workspaces (工作区)的对象。工作区的功能类似于线程,同时增加了文档的容器化,。工作区可以共享文档,但工作区之间的内容不会互相干扰或污染,因此您可以保持每个工作区的上下文清晰。
AnythingLLM的一些酷炫特性:
- 多用户实例支持和权限管理
- 工作区内的智能体Agent(浏览网页、运行代码等)
- 为您的网站定制的可嵌入聊天窗口
- 支持多种文档类型(PDF、TXT、DOCX等)
- 通过简单的用户界面管理向量数据库中的文档
- 两种对话模式:聊天和查询。聊天模式保留先前的对话记录。查询模式则是是针对您的文档做简单问答
- 聊天中会提供所引用的相应文档内容
- 100%云部署就绪。
- “部署你自己的LLM模型”。
- 管理超大文档时高效、低耗。只需要一次就可以嵌入(Embedding)一个庞大的文档或文字记录。比其他文档聊天机器人解决方案节省90%的成本。
- 全套的开发人员API,用于自定义集成!
支持的LLM:
- 任何与llama.cpp兼容的开源模型
- OpenAI
- OpenAI (通用)
- Azure OpenAI
- Anthropic
- Google Gemini Pro
- Hugging Face (聊天模型)
- Ollama (聊天模型)
- LM Studio (所有模型)
- LocalAi (所有模型)
- Together AI (聊天模型)
- Perplexity (聊天模型)
- OpenRouter (聊天模型)
- Mistral
- Groq
- Cohere
- KoboldCPP
二、软件预览
![2024-06-13_161503.png](https://img.snailshub.com/images/2024/06/13/2024-06-13_161503.png)
![2024-06-13_161534.png](https://img.snailshub.com/images/2024/06/13/2024-06-13_161534.png)
三、地址
官网: https://useanything.com/
项目: https://github.com/Mintplex-Labs/anything-llm
文档: https://docs.useanything.com/
最新评论
接口密码是什么呀?
牛仔
一直在用的,感谢更新
哎。之前听推荐的,但是现在要付费了,否则硬解等都受到限制。