零基础部署CYBER-VISION：Ubuntu 20.04系统环境配置全攻略

零基础部署CYBER-VISIONUbuntu 20.04系统环境配置全攻略如果你刚接触AI模型部署看到一堆命令行和配置项可能有点发怵。别担心今天咱们就来手把手走一遍在Ubuntu 20.04上把CYBER-VISION这个模型服务稳稳当当地跑起来。整个过程就像搭积木跟着步骤来一步一个脚印最后你就能拥有一个随时待命的AI服务了。我写这篇指南就是想把那些看起来复杂的配置过程拆解成谁都能看懂的操作。你不用有太多前置知识只要会用基本的Linux命令比如cd、ls、sudo就完全没问题。我们的目标很明确从一台干净的Ubuntu 20.04系统开始到最后能通过浏览器访问到CYBER-VISION的服务界面。1. 第一步把系统基础打牢在安装任何新软件之前先把系统本身收拾利索这是保证后续一切顺利的前提。这一步主要做两件事更新系统到最新状态以及安装一些必不可少的工具。1.1 系统更新与基础工具安装打开你的终端咱们开始干活。首先更新系统的软件包列表这能让你知道有哪些可用的最新版本。sudo apt update更新完列表后把系统里现有的软件都升级到最新版。这个过程可能需要一点时间取决于你的网络速度和需要更新的软件数量。sudo apt upgrade -y系统升级完成后安装一些后续步骤会用到的核心工具。比如curl用来下载文件wget也是下载工具git用来管理代码vim或nano是文本编辑器方便你修改配置文件。sudo apt install -y curl wget git vim nano1.2 安装Docker和Docker ComposeCYBER-VISION的部署强烈依赖Docker它能将应用和它需要的环境打包在一起避免了你手动配置各种依赖的麻烦。我们用Docker官方提供的一键安装脚本来装最省事。curl -fsSL https://get.docker.com -o get-docker.sh sudo sh get-docker.sh安装完成后把当前用户加入到docker用户组里。这样以后运行Docker命令就不用每次都加sudo了更方便。sudo usermod -aG docker $USER重要提示执行完上面这行命令后你需要完全退出当前终端会话然后重新登录或者直接重启系统这个用户组的变更才会生效。你可以新开一个终端窗口试试。接下来验证Docker是否安装成功。docker --version如果看到类似Docker version 24.0.7, build xxxxxxx的输出说明安装没问题。最后安装Docker Compose它是一个用来定义和运行多容器Docker应用的工具。虽然我们这次可能用不到多容器但装上以备不时之需。sudo curl -L https://github.com/docker/compose/releases/latest/download/docker-compose-$(uname -s)-$(uname -m) -o /usr/local/bin/docker-compose sudo chmod x /usr/local/bin/docker-compose同样验证一下安装。docker-compose --version2. 第二步搞定GPU支持如果你的服务器有NVIDIA显卡如果你的服务器配备了NVIDIA显卡并且你希望CYBER-VISION能够利用GPU来加速运算这能极大提升模型推理速度那么这一步是必须的。如果服务器没有GPU或者你暂时只想用CPU跑可以跳过整个第二步。2.1 安装NVIDIA驱动首先更新系统并安装一些编译驱动可能需要的内核头文件。sudo apt update sudo apt install -y build-essential gcc make linux-headers-$(uname -r)Ubuntu 20.04提供了一个比较省心的驱动安装方式使用ubuntu-drivers工具。它会自动检测你的显卡型号并推荐合适的驱动版本。sudo apt install -y ubuntu-drivers-common sudo ubuntu-drivers autoinstall安装完成后必须重启系统让新驱动生效。sudo reboot重启后登录回来在终端里输入以下命令验证驱动是否安装成功。你应该能看到显卡的型号和驱动版本信息。nvidia-smi2.2 安装NVIDIA Container Toolkit为了让Docker容器能够访问和使用宿主机的GPU我们需要安装NVIDIA Container Toolkit。这相当于在Docker和NVIDIA驱动之间架起一座桥。首先添加NVIDIA的软件仓库。distribution$(. /etc/os-release;echo $ID$VERSION_ID) curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add - curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list然后更新软件包列表并安装工具包。sudo apt update sudo apt install -y nvidia-container-toolkit安装完成后需要重启Docker服务来加载新的配置。sudo systemctl restart docker最后做个简单的测试运行一个带GPU支持的测试容器。如果命令能成功执行并返回GPU信息说明配置正确。docker run --rm --gpus all nvidia/cuda:11.8.0-base-ubuntu20.04 nvidia-smi3. 第三步获取并启动CYBER-VISION镜像基础环境准备好后主角就该登场了。我们将从镜像仓库拉取CYBER-VISION的Docker镜像并以容器的形式运行它。3.1 拉取镜像假设CYBER-VISION的镜像名称为registry.example.com/cyber-vision:latest请替换为实际的镜像地址。使用docker pull命令将它下载到本地。docker pull registry.example.com/cyber-vision:latest拉取完成后可以用下面的命令查看本地已有的镜像确认CYBER-VISION镜像已经存在。docker images | grep cyber-vision3.2 运行容器现在我们用一条命令启动这个镜像把它变成一个正在运行的容器。这条命令做了几件关键事-d让容器在后台运行。--name cyber-vision给容器起个名字方便管理。-p 7860:7860将容器内部的7860端口映射到宿主机的7860端口。这是CYBER-VISION服务通常使用的端口。--gpus all如果宿主机有GPU且你完成了第二步的配置这个参数会让容器能使用所有GPU。如果只用CPU请去掉这个参数。-v /data/cyber-vision:/app/data把宿主机上的/data/cyber-vision目录挂载到容器内的/app/data路径。这样做非常有用容器内生成的数据比如模型缓存、用户上传的文件会保存在宿主机上即使容器删除数据也不会丢失。最后指定要运行的镜像名称。docker run -d \ --name cyber-vision \ -p 7860:7860 \ --gpus all \ -v /data/cyber-vision:/app/data \ registry.example.com/cyber-vision:latest运行后可以用下面的命令检查容器状态。看到状态是Up就说明启动成功了。docker ps | grep cyber-vision3.3 首次访问验证打开你电脑上的浏览器在地址栏输入http://你的服务器IP地址:7860。如果一切顺利你应该能看到CYBER-VISION的Web用户界面了。如果看不到页面可能是服务还在启动中某些大型模型加载较慢可以查看容器的日志来排查问题。docker logs cyber-vision4. 第四步配置系统服务与网络让服务能跑起来是第一步我们还得让它跑得稳、跑得安全并且能在服务器重启后自动恢复。这就涉及到端口管理和服务自启动配置。4.1 防火墙设置如果启用了UFWUbuntu 20.04默认可能使用UFW防火墙。为了让外部能访问7860端口需要放行它。首先查看UFW状态。sudo ufw status如果状态是inactive未激活可以跳过此步。如果是active则添加规则。sudo ufw allow 7860/tcp sudo ufw reload4.2 使用Systemd配置服务自启动使用docker run命令启动的容器在服务器重启后不会自动运行。为了解决这个问题我们可以创建一个Systemd服务单元文件让系统来管理这个容器。创建一个新的服务文件。sudo vim /etc/systemd/system/cyber-vision.service将以下内容粘贴进去。这个配置定义了一个服务它会在系统启动时自动执行我们之前的那条docker run命令并在服务停止时清理容器。[Unit] DescriptionCYBER-VISION AI Service Requiresdocker.service Afterdocker.service network-online.target Wantsnetwork-online.target [Service] Typesimple Restartalways RestartSec10 ExecStart/usr/bin/docker run --rm --name cyber-vision -p 7860:7860 --gpus all -v /data/cyber-vision:/app/data registry.example.com/cyber-vision:latest ExecStop/usr/bin/docker stop cyber-vision [Install] WantedBymulti-user.target保存并退出编辑器在vim中按Esc然后输入:wq回车。重新加载Systemd配置让系统识别这个新服务。sudo systemctl daemon-reload现在就可以启动这个服务了并设置它开机自启。sudo systemctl start cyber-vision.service sudo systemctl enable cyber-vision.service检查一下服务的运行状态看到active (running)就说明一切OK。sudo systemctl status cyber-vision.service以后你就可以使用标准的Systemd命令来管理这个服务了sudo systemctl stop cyber-vision.service停止服务。sudo systemctl start cyber-vision.service启动服务。sudo systemctl restart cyber-vision.service重启服务。sudo journalctl -u cyber-vision.service -f查看服务的实时日志。5. 总结走完这一整套流程你的Ubuntu 20.04服务器上应该已经有一个稳定运行的CYBER-VISION服务了。我们从头到尾梳理了一遍从更新系统、安装Docker到配置GPU支持如果需要再到拉取镜像、运行容器最后通过Systemd确保服务能持久化运行。整个过程最关键的其实就是耐心和细心尤其是第一次操作时跟着命令一步步来看清楚每一步的输出有没有报错。遇到问题别慌多看看容器日志docker logs或者系统服务日志journalctl里面通常会有明确的错误提示。现在你可以通过http://服务器IP:7860安心地使用CYBER-VISION了。这种基于Docker的部署方式隔离性好管理起来也方便。如果未来需要升级镜像版本只需要停止服务拉取新镜像然后重新启动服务即可你的数据因为做了卷挂载都会完好无损。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。