2个工具 ,ollma 和open webui
ollama 是集成了各种大模型, open webui 可以更好的界面化操作我们的知识库
1-安装ollama
下载:
https://ollama.com/download
我们用docker 的形式去跑
docker run -v /ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
#人工智能 在Linux下使用Docker容器快速构建本地AI问答知识库,可加载各种大语言模型,例如千问。#云计算 #ai人工智能 #Docker #Linux
#人工智能 在Linux下使用Docker容器快速构建本地AI问答知识库,可加载各种大语言模型,例如千问。#云计算 #ai人工智能 #Docker #Linux - 抖音 (douyin.com)