52.3K Star!本地部署AI神器AnythingLLM:让任何文档秒变智能知识库,多模型支持,隐私完全掌控

一直想找个能把公司文档、技术资料都喂给AI的工具,让它能精准回答问题,试过几个在线服务总担心数据泄露,而且费用也不便宜,最近发现了AnythingLLM这个开源项目,可以完全本地部署,支持几乎所有主流LLM模型,把文档拖进去就能开始对话,用了几周感觉太香了

AnythingLLM是什么

它是一个全栈AI应用,能把任何文档、资料转换成LLM可以理解的知识库,支持本地和云端部署,兼容OpenAI、Ollama、LM Studio等几十种大模型,还内置了AI智能体、多用户管理、权限控制等企业级功能,最关键的是数据完全掌控在自己手里

开源成就

• • Star数 已经收获52.3K Star,社区非常活跃

• • 主开发语言 前端用React+Vite,后端用Node.js,技术栈成熟稳定

核心功能

• •超强的文档支持,支持PDF、DOCX、TXT等多种格式,直接拖拽上传就能自动解析,我把几百份技术文档全扔进去了

• •多模型自由切换,支持OpenAI、Claude、Gemini、Ollama、LM Studio等几十种LLM,还能本地运行开源模型,省了不少API费用

• •工作空间隔离,可以给不同项目创建独立的工作区,互不干扰,我给产品文档和技术文档分开管理特别方便

• •智能AI代理,内置的Agent可以联网搜索、执行任务,还有无代码Agent构建器,不用写代码就能定制自己的AI助手

• •多用户权限管理,支持团队协作,可以设置不同用户访问不同工作区,适合企业内部使用

• •引用溯源功能,AI回答时会标注来源文档和页码,不用担心胡编乱造,回头查证特别方便

• •多模态支持,不仅能处理文本,还支持图片、音视频转录,功能相当全面

安装指南

• •Docker部署也很方便,一条命令就搞定

docker run -d \
--name anythingllm \
-p 3001:3001 \
-v${PWD}/anythingllm:/app/server/storage \
mintplexlabs/anythingllm:latest

• •Docker Compose部署,适合生产环境使用

version:'3.8'
services:
anythingllm:
image:mintplexlabs/anythingllm:latest
container_name:anythingllm
ports:
-"3001:3001"
volumes:
-./storage:/app/server/storage
environment:
-STORAGE_DIR=/app/server/storage
restart:unless-stopped

• •配置向量数据库,默认用LanceDB,也支持Pinecone、Chroma、Qdrant等十几种向量数据库,我用的本地LanceDB,零配置开箱即用

END

往期推荐


• 14.5K Star！开源AI编程助手，专为大型项目和复杂任务而生！

• 407K Star！GitHub上最全的精选资源库，程序员必备的技术宝库！

• 18.5K Star！AI浏览器自动化神器，告别繁琐的网页操作！

• 13.7K Star！Google官方AI代理开发神器，多智能体系统开发效率翻倍！

• 8.7K Star！不用GPU也能搞语音合成，推荐这个25MB的语音合成神器，从App到嵌入式，从Web到桌面软件，哪里都能用

• 44.4K Star！告别PDF处理噩梦！这个开源神器让文档转换效率暴涨10倍