国内加速配置:
一、备份现有模型和数据(可选但建议)
# 查看当前模型
ollama list
# 备份模型列表
ollama list > ~/ollama_models_backup.txt
# 如果担心升级问题,可以备份配置
sudo cp -r ~/.ollama ~/.ollama_backup
二、配置国内镜像加速(关键步骤)
1. 创建或修改Ollama环境配置
# 创建配置目录(如果不存在)
mkdir -p ~/.config/ollama
# 编辑环境配置文件
sudo nano /etc/systemd/system/ollama.service.d/environment.conf
2. 添加国内镜像源
在配置文件中添加:
[Service]
Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_ORIGINS=*"
Environment="OLLAMA_MODELS=/path/to/your/models" # 可选,自定义模型存储路径
# 国内镜像源配置(选择其中一个)
# 清华源
Environment="OLLAMA_REGISTRY=mirrors.tuna.tsinghua.edu.cn/ollama"
# 阿里云源
# Environment="OLLAMA_REGISTRY=registry.cn-hangzhou.aliyuncs.com/ollama"
# 上海交大源
# Environment="OLLAMA_REGISTRY=mirror.sjtu.edu.cn/ollama"
3. 设置Docker镜像加速(如果使用Docker版本)
# 编辑Docker配置
sudo nano /etc/docker/daemon.json
添加:
{
"registry-mirrors": [
"https://docker.mirrors.ustc.edu.cn",
"https://hub-mirror.c.163.com",
"https://mirror.baidubce.com"
]
}
重启Docker:
sudo systemctl restart docker
三、升级Ollama本体
方法1:使用官方脚本(需要代理或耐心等待)
# 官方升级命令(可能会慢)
curl -fsSL https://ollama.ai/install.sh | sh
方法2:手动下载安装(推荐国内用户)
查看当前版本
ollama --version
从国内镜像下载最新版本
# 访问清华源查看可用版本
# https://mirrors.tuna.tsinghua.edu.cn/ollama/linux/
或者使用wget下载(替换为最新版本号)
wget https://mirrors.tuna.tsinghua.edu.cn/ollama/linux/ollama-linux-amd64
3. **停止Ollama服务**
```bash
# 停止服务
sudo systemctl stop ollama
# 或者如果以服务运行
sudo service ollama stop
替换二进制文件
# 找到Ollama安装位置
which ollama
通常是 /usr/bin/ollama 或 /usr/local/bin/ollama
备份旧版本
sudo mv /usr/local/bin/ollama /usr/local/bin/ollama.old
安装新版本
sudo cp ollama-linux-amd64 /usr/local/bin/ollama
sudo chmod +x /usr/local/bin/ollama
### 方法3:使用包管理器(如果通过包安装)
```bash
# 如果通过snap安装
sudo snap refresh ollama
# 如果通过apt安装(添加官方源)
curl -fsSL https://ollama.ai/install.sh | sh
四、重启并验证升级
# 重启Ollama服务
sudo systemctl daemon-reload
sudo systemctl restart ollama
# 检查状态
sudo systemctl status ollama
# 验证版本
ollama --version
# 测试运行
ollama run llama2
五、模型下载加速
下载模型时使用镜像:
# 设置临时环境变量
export OLLAMA_HOST=0.0.0.0
export OLLAMA_MODEL_MIRROR=mirrors.tuna.tsinghua.edu.cn/ollama
# 或者使用参数
ollama pull llama2 --registry=mirrors.tuna.tsinghua.edu.cn/ollama
六、常见问题解决
1. 下载速度慢
# 使用国内镜像站手动下载模型
# 然后手动导入
ollama import /path/to/model.tar
2. 服务启动失败
# 检查日志
journalctl -u ollama -f
# 重置Ollama(注意:会删除所有模型)
sudo systemctl stop ollama
sudo rm -rf ~/.ollama
sudo systemctl start ollama
3. 端口占用问题
# 修改默认端口
export OLLAMA_HOST=0.0.0.0:11435
ollama serve
七、优化建议
使用国内模型源:
离线升级:
# 在可访问外网的机器下载
wget https://github.com/ollama/ollama/releases/latest/download/ollama-linux-amd64
# 传输到目标机器
scp ollama-linux-amd64 user@target:/tmp/
创建升级脚本:
#!/bin/bash
# upgrade_ollama.sh
echo "停止Ollama服务..."
sudo systemctl stop ollama
echo "下载最新版本..."
wget -O ollama-linux-amd64 https://mirrors.tuna.tsinghua.edu.cn/ollama/linux/ollama-linux-amd64
echo "安装新版本..."
sudo cp ollama-linux-amd64 /usr/local/bin/ollama
sudo chmod +x /usr/local/bin/ollama
echo "启动服务..."
sudo systemctl start ollama
echo "升级完成!"
ollama --version
注意事项
备份重要模型:升级前确保重要模型已备份
网络环境:如果使用代理,确保代理设置正确
权限问题:确保有sudo权限执行安装命令
版本兼容:某些模型可能需要特定Ollama版本
通过以上步骤,可以在国内网络环境下顺利完成Ollama的升级。如果遇到问题,建议查看Ollama官方GitHub的Issues或国内技术社区的相关讨论。