






















Ollama 对 AMD 显卡默认依赖 ROCm,但配置复杂、依赖冲突多(你之前已遇)。7900 XTX (Navi31) 在 Ubuntu 24.04 可直接用 Ollama 内置 Vulkan 加速,免装 ROCm,24GB 显存满血跑 30B+ 模型,速度快、稳定性高。本文全命令、零废话、一步到位。
Ubuntu 24.04 自带 AMD 开源驱动(RADV),完美支持 7900 XTX Vulkan。
bash
运行
# 1. 更新系统
sudo apt update && sudo apt upgrade -y
# 2. 安装 Vulkan 基础库(必须,Ollama 依赖)
sudo apt install -y libvulkan1 mesa-vulkan-drivers vulkan-tools
# 3. 验证 Vulkan(看到 7900 XTX 即成功)
vulkaninfo | grep "GPU"
输出含:Radeon RX 7900 XTX (RADV NAVI31) ✅
bash
运行
# 一键安装(官方)
curl -fsSL https://ollama.com/install.sh | sh
# 安装后将用户加入 render 组(GPU 权限)
sudo usermod -aG render $USER
newgrp render
不设置则默认用 CPU。直接修改 systemd 服务:
bash
运行
# 编辑 Ollama 服务(覆盖配置)
sudo systemctl edit ollama.service
写入以下内容(直接复制):
ini
[Service]
# 强制启用 Vulkan(核心)
Environment="OLLAMA_VULKAN=1"
# 监听所有网卡(局域网访问)
Environment="OLLAMA_HOST=0.0.0.0:11434"
# 允许跨域(WebUI/客户端调用)
Environment="OLLAMA_ORIGINS=*"
# 取消 HSA 重写(避免干扰 Vulkan)
Environment="HSA_OVERRIDE_GFX_VERSION="
保存退出,重启服务:
bash
运行
sudo systemctl daemon-reload
sudo systemctl restart ollama
sudo systemctl enable ollama # 开机自启
bash
运行
# 实时查看日志
journalctl -u ollama -f
关键成功行:
plaintext
inference compute" id=00000000-0300-0000-0000-000000000000 library=Vulkan name=Vulkan0 description="Radeon RX 7900 XTX (RADV NAVI31)" total="24.0 GiB" available="23.4 GiB"
bash
运行
sudo ufw allow 11434/tcp
sudo ufw reload
bash
运行
# Qwen 2.5 32B 4-bit量化(速度最快、通用最强)
ollama run qwen2.5:32b-q4_K_M
# 代码专用(你之前要的 coder)
ollama run qwen2.5-coder:32b-q4_K_M
# Llama 3 70B 量化(极限,24GB 刚好)
ollama run llama3:70b-q4_K_M
bash
运行
ollama run qwen2.5:7b # 秒启
bash
运行
# 安装监控工具
sudo apt install -y radeontop
# 运行(跑模型时看 GPU 100%、显存 15–22GB)
radeontop
bash
运行
hostname -I # 例:192.168.1.100
bash
运行
# 终端连接
export OLLAMA_HOST=http://192.168.1.100:11434
ollama run qwen2.5-coder:32b-q4_K_M
# 网页测试
http://192.168.1.100:11434 # 显示 Ollama is running
仍用 CPU:
OLLAMA_VULKAN=1 已写入服务sudo systemctl restart ollamajournalctl -u ollama -f 看 Vulkan 行显存不足:
依赖报错(如之前 ROCm 冲突):
bash
运行
# 彻底清理 ROCm(如装过)
sudo apt purge -y rocm* amdgpu*
sudo apt autoremove -y
sudo rm -rf /etc/ld.so.conf.d/rocm.conf
Ubuntu 24.04 + 7900 XTX:装 Vulkan 库 → 装 Ollama → 设 OLLAMA_VULKAN=1 → 重启,免 ROCm、24GB 满血、32B 流畅、局域网可用,5 分钟搞定。
要不要我把以上所有命令整合成一键脚本,你直接复制运行就能完成全部部署?
此内容由惯性聚合(RSS阅读器)自动聚合整理,仅供阅读参考。 原文来自 — 版权归原作者所有。