NVIDIA Container Toolkit安装笔记

前言

此教程，适用于apt源的系统比如debian与Ubuntu，配置完成后，docker就可以使用nvidia-runtime了。
常见使用情景就是使用docker运行ollama或者emby、plex、jellyfin等这些需要硬件加速编码解码的容器。

教程

添加nVidia GPG公钥

curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | apt-key add -

增加软件源配置配置，这里我使用的是ubuntu22的系统，其他系统在教程结尾我会附上nVidia官方文档，可以去查看

curl -s -L https://nvidia.github.io/nvidia-docker/ubuntu22.04/nvidia-docker.list > /etc/apt/sources.list.d/nvidia-docker.list

刷新 APT 软件包索引，让系统识别刚刚添加的 NVIDIA 源里的包。

apt update

安装nvidia-container-toolkit

apt -y install nvidia-container-toolkit

用 NVIDIA 的配置工具（nvidia-ctk）把 Docker 更新配置，这里需要注意，此条命令会清空/etc/docker/daemon.json内容，如果有配置内容，请提前备份以免丢失配置内容。

sudo nvidia-ctk runtime configure --runtime=docker

重启docker

systemctl restart docker

到此配置NVIDIA Container Toolkit结束，在想使用nvidia加速的容器上配置"--runtime=nvidia" 或 "--gpus all"就可以使用nVidia的硬件加速了。

官方文档https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/install-guide.html