Ollama 为开源的本地大语言模型运行框架,专为在本地机器上部署和运行大型语言模型(LLM)而设计。
1. Linux 系统里安装
Linux 下可以使用一键安装脚本
curl -fsSL https://ollama.com/install.sh | bash
安装完成后,通过以下语句验证:
ollama --version
如果显示版本号,则说明安装成功。
2. Docker 里安装
如果熟悉 Docker,也可以通过 Docker 安装 Ollama。
拉取 Docker 镜像语句:
docker pull ollama/ollama
运行容器:
docker run -p 11434:11434 ollama/ollama
浏览器网址访问 http://localhost:11434,显示ok即可以使用ollama。
如需配置web界面,可以Ollama Open WebUI


