m3环境部署教程:从零配置到WebUI运行完整步骤
文章浏览阅读2.1k次,点赞16次,收藏12次。本文介绍了基于星图GPU平台自动化部署
想要在本地搭建知识库,这里就通过anythingLLM来完成模型和向量数据库的配置,集成步骤如下:安装Ollama下载DeepSeek和Embedding模型安装anythingLLM配置DeepSeek和Embedding模型, ,当然很多可视化交互工具本身也提供了默认的向量数据库配置,为了简化本地部署,最后安装可视化交互工具方便使用,。
如anythingLLM,选择合适的推理大模型和Embedding模型。
其次需要配置向量数据库用于知识的存储和检索,需要提供一个本地运行大模型的环境。
广告位
评论列表