当前位置:首页 > 调试心得 > 正文内容

ollama 容器不能调用英伟达显卡的问题处理

Q师傅2026-02-09调试心得28

启动ollama容器报错

stderr: Container ollama Creating Container ollama Created Container ollama Starting Error response from daemon: could not select device driver "nvidia" with capabilities: [[gpu]] , err: exit status 1


遇到的这个错误是因为 1Panel 部署 ollama 容器时,Docker 无法找到支持 GPU 的 NVIDIA 驱动,导致容器启动失败。这个错误的核心原因是 Docker 没有正确配置 NVIDIA 容器运行时(nvidia-container-runtime),无法识别和调用 GPU 资源。

错误原因解析

could not select device driver "nvidia" with capabilities: [[gpu]] 这句话的意思是:

Docker 尝试为 ollama 容器分配 GPU 资源,但系统中没有安装 / 配置 NVIDIA 容器驱动

即使你有 NVIDIA 显卡和驱动,Docker 也需要专门的运行时插件才能调用 GPU

1. 先清理错误的源文件

# 删除包含 HTML 内容的错误源文件
sudo rm /etc/apt/sources.list.d/nvidia-container-toolkit.list

2. 添加 NVIDIA 通用 DEB 源(核心步骤)

# 1. 确保 GPG 密钥已正确安装(如果之前装过可跳过)
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg

# 2. 添加通用的 DEB 源(适配所有 DEB 系系统)
echo "deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://nvidia.github.io/libnvidia-container/stable/deb/amd64 /" | sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list

# 3. 如果是 ARM64 架构(如鲲鹏/飞腾服务器),替换上面这行:
# echo "deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://nvidia.github.io/libnvidia-container/stable/deb/arm64 /" | sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list



3. 安装 NVIDIA Container Toolkit

# 更新源(此时不会再返回 HTML 错误)
sudo apt-get update

# 安装核心包
sudo apt-get install -y nvidia-container-toolkit

# 配置 Docker 启用 NVIDIA 运行时
sudo nvidia-ctk runtime configure --runtime=docker

# 重启 Docker 生效
sudo systemctl restart docker


扫描二维码推送至手机访问。

版权声明:本文由 Greatqiu.cn Q师傅知识库 发布,如需转载请注明出处。

本文链接:https://greatqiu.cn/?id=284

分享给朋友:

相关文章

LED显示屏 多功能卡能实现的功能图解

LED显示屏 多功能卡能实现的功能图解

支持RS232串口或千兆网口通信。RS232支持用网口连接在接收之前·之间或最后。RS232具有定时功能,可替代定时器和延期器。RS232支持配电箱温度检测。RS232 8路电源开关控制。RS232 4路传感器接口,可连接光探头实现自动亮度调节,或者连接接她外设,例如温度探头。RS232 1路音频输出接口。<!--autointro-->…

BWEE榜威智能氛围灯和灯光同步器调试设置视频案例

<iframe src="//player.bilibili.com/player.html?aid=834425731&bvid=BV1eg4y1o7rG&cid=1358866010&p=1" scrolling="no" border="0" frameborder="no" framespacing="0" allowfullscreen="true"heig…

翰文进度计划软件(横道图,甘特图)工程管理神器

翰文进度计划软件(横道图,甘特图)工程管理神器

翰文进度计划软件免费版对于工程建筑工作人员来是一款十分实用的建筑帮手。该软件能够更好的帮助工程建筑人员快速高效绘制建筑图绘制建筑图,翰文进度计划软件是无需进行设计草稿而是直接用可以鼠标在屏幕上进行设计绘图。 软件功能 1.提供符合国家标准的各专业图库,用户也可以自定义图标图例保存备用,完全满足绘制施工现场平面布置图、安全标志布置图的需要。 2.系统提供了强大的专业绘图工具,不仅提供常规的…

远程继电器在工程上的应用

远程继电器在工程上的应用

做施工项目的经常会遇到需要远程控制一些电器的情况,可以用wifi 或者4G  继电器来做到远程控制设备,分为以下几种情况情况一:控制电器设备功率比较小,如电灯等:…

飞牛安装特斯拉V100显卡驱动及CUDA工具包

飞牛安装特斯拉V100显卡驱动及CUDA工具包

飞牛系统实际上是debain 系统,飞牛安装好V100显卡,可以在资源管理中识别该显卡,但是识别不了显存尝试从应用商城安装英伟达得驱动,两个驱动安装都不行只能手动安装了解到安装这个驱动就安装2样东西,V100驱动,cuda工具包,其中有几个前提条件分别如下1、驱动要与linux内核版本匹配,我也不知道啥内核能匹配,只是单纯问了一下豆包2、安全启动开启:进入 BIOS/UEFI,关闭 Secure…

发表评论

访客

看不清,换一张

◎欢迎参与讨论,请在这里发表您的看法和观点。