ARTICLE DETAIL

建站实战干货

来自一线的建站与推广经验沉淀，每一条都经过真实交付验证。

首页 / 资讯中心 / 正文

NVIDIA Jetson AGX Orin开发板从开箱到AI环境部署全流程指南

2026/8/7 7:15:41 拓冰建站 浏览量
NVIDIA Jetson AGX Orin开发板从开箱到AI环境部署全流程指南

1. 项目概述：为什么需要这份“保姆级”指南？

如果你刚拿到NVIDIA Jetson AGX Orin这块开发板，看着它小巧的机身和丰富的接口，兴奋之余可能有点无从下手。这块板子性能强悍，但它的生态和普通的x86电脑、甚至和树莓派这样的ARM开发板都有很大不同。它不是装个Windows或Ubuntu桌面版就能直接用的，其核心是NVIDIA为其量身定制的JetPack SDK，里面包含了特定的Linux系统、驱动、CUDA、深度学习库等一整套东西。很多新手卡在第一步——刷机，或者好不容易刷进去了，却发现显卡驱动没起来，nvidia-smi命令报错，深度学习环境更是不知道怎么配。网上的资料虽然多，但往往比较零散，或者步骤跳跃，缺少针对纯新手的、从开箱到能跑AI模型的完整路径梳理。

这就是我写这份指南的初衷。我会假设你是一个有Linux基础但对Jetson平台完全陌生的开发者，手头有一台AGX Orin开发板、一根Type-C数据线、一个DC电源，以及一台用于操作的宿主机（Windows、Linux或Mac均可）。我将带你走完从拆箱到运行第一个CUDA程序、再到配置常用AI环境（如PyTorch、TensorRT）的全过程，过程中会详细解释每一个步骤背后的原因，并分享我踩过的那些坑和总结出来的技巧。我们的目标很明确：让你手里的这块昂贵且强大的开发板，尽快地“活”起来，并为你所用。

2. 开箱与硬件连接要点

拿到AGX Orin开发板，第一步不是急着通电，而是做好连接准备。正确的硬件连接是后续所有操作的基础，这里有几个关键点需要注意。

2.1 认识核心接口与配件

AGX Orin开发板尺寸不大，但接口密集。对我们初期刷机和调试最重要的接口有三个：

  1. DC电源接口：必须使用官方配套的19V电源适配器。严禁使用其他电压的电源，否则极易损坏板卡。在连接宿主机进行刷机时，也需要先接上这个电源。
  2. 恢复模式按钮（Force Recovery）：这是一个小小的圆孔按钮，通常位于板子边缘。它是进入刷机模式的关键。你需要准备一个回形针或镊子来按它。
  3. Micro-USB或USB Type-C接口：用于连接宿主机，进行刷机和调试。不同版本的Orin板载的接口可能不同，请以实物为准。通过这个接口，你的宿主机可以将Orin识别为一个USB设备，从而向其刷写系统镜像。

此外，你还需要准备一根高质量的数据线。很多刷机失败的问题，根源就在于数据线质量差导致通信不稳定。建议使用原装线或品牌可靠的短线。

2.2 宿主机环境准备

你的宿主机（用来操作刷机的电脑）需要安装NVIDIA SDK Manager。这是一个图形化工具，能极大地简化JetPack的下载和刷机流程。去NVIDIA官网下载对应你宿主机系统（Ubuntu 20.04/22.04或Windows）的版本并安装。

注意：虽然可以在纯命令行下刷机，但对于新手，SDK Manager是首选。它能自动处理依赖、下载组件，并引导你完成整个流程，避免了很多手动配置的麻烦。

安装好后，暂时不要启动它。先用数据线将Orin开发板的Micro-USB/Type-C口与宿主机相连。此时不要给开发板上电。

3. 刷机全流程详解与避坑指南

刷机，即给AGX Orin安装操作系统和基础软件栈，这是整个过程中最容易出错的环节。我们将使用SDK Manager，并详细拆解每一步。

3.1 进入恢复模式与SDK Manager配置

  1. 让开发板进入恢复模式：

    • 确保开发板未通电（电源适配器不要插）。
    • 用数据线连接开发板与宿主机。
    • 找到“Force Recovery”按钮孔，用回形针顶住并保持按住。
    • 在按住按钮的同时，将19V电源适配器插入开发板并上电。
    • 继续按住按钮大约2秒钟，然后松开。
    • 此时，开发板应该处于一种“黑屏”状态，只有电源指示灯亮。在宿主机上打开“设备管理器”（Windows）或使用lsusb命令（Linux），你应该能看到一个名为“NVIDIA Corp. APX”或类似的USB设备。这表明开发板已成功进入恢复模式，等待刷机。

  2. 配置SDK Manager：

    • 启动宿主机上的NVIDIA SDK Manager。
    • 登录你的NVIDIA开发者账户。
    • Step 1: 选择目标硬件：在“Target Hardware”中，勾选“Jetson AGX Orin Series”。
    • Step 2: 选择目标操作系统和JetPack版本：在“Target Operating System”下，通常选择“JetPack 5.x.x”（如5.1.2）。这是为Orin定制的最新L4T（Linux for Tegra）系统。强烈建议选择“Host Machine”安装模式，即所有组件都安装在开发板上，宿主机只作为操作终端。这样环境最干净。
    • Step 3: 选择组件：在“Additional SDKs”部分，你可以勾选需要预装的内容。对于新手，我建议至少勾选：
      • CUDA：GPU计算基础。
      • cuDNN、TensorRT：深度学习推理加速库。
      • VisionWorks、VPI：视觉处理库。
      • Container Runtime：如果你打算用Docker。
    • 勾选“I accept the terms and conditions”，然后点击“Continue”。

3.2 下载与安装过程监控

SDK Manager会开始下载你选择的JetPack组件。这是一个漫长的过程（可能数小时），取决于你的网速。下载完成后，它会自动进入安装阶段。

此时，SDK Manager会尝试通过网络发现你的开发板。因为我们的开发板处于恢复模式并通过USB连接，它通常能被自动识别。如果识别失败，请回到第一步确认恢复模式是否进入成功，并尝试更换USB口或数据线。

安装过程会分为两步：

  1. Flash OS：将L4T基础系统镜像刷写到开发板的eMMC存储中。这一步是自动的，你会看到进度条。
  2. Setup & Configure：在系统刷写完成后，SDK Manager会通过新建立的网络连接（开发板会启动并获取IP）来安装你之前勾选的额外组件（CUDA, TensorRT等）。

关键避坑点：在“Setup & Configure”阶段，SDK Manager会提示你在开发板上创建用户名和密码。请务必记住这个密码！后续通过SSH登录或sudo操作都需要它。此外，这个阶段可能会因为网络问题（尤其是开发板需要从网络下载额外包）而失败。如果失败，可以尝试重新运行SDK Manager，并只执行“Setup & Configure”这一步。

当SDK Manager显示所有步骤都完成（绿色对勾）时，恭喜你，刷机成功！开发板会自动重启，进入全新的系统。

4. 首次启动与基础环境验证

刷机完成后，你需要让开发板独立运行起来，并验证核心组件是否正常工作。

4.1 系统登录与网络配置

  1. 连接显示器和键鼠：给开发板连接一个HDMI显示器、USB键盘和鼠标。上电启动后，你将看到标准的Ubuntu（L4T）登录界面。用刚才设置的用户名和密码登录。
  2. 配置网络：进入系统后，第一件事是连接网络（Wi-Fi或有线）。稳定的网络对于后续安装软件包至关重要。你可以通过图形界面右上角的网络图标进行设置。
  3. 更新系统：打开终端（Ctrl+Alt+T），首先更新软件源并升级现有包：
    sudo apt update sudo apt upgrade -y
    这个过程可能需要一些时间。

4.2 核心驱动与工具验证

这是验证刷机是否彻底成功的关键一步。

  1. 验证NVIDIA驱动：在终端输入：

    nvidia-smi

    这是最重要的命令。如果成功，你会看到一个表格，显示Orin的GPU状态、驱动版本、CUDA版本等信息。如果报错，例如NVIDIA-SMI has failed because it couldn‘t communicate with the NVIDIA driver， 说明驱动没有正常加载。这是最常见的问题之一。

  2. 排查驱动通信失败问题：如果nvidia-smi报错，请按以下顺序排查：

    • 检查内核头文件：Orin的驱动是内核模块，需要和当前运行的内核版本严格匹配。首先查看内核版本：
      uname -r
    • 安装对应版本的内核头文件和开发包：
      sudo apt install linux-headers-$(uname -r)
    • 重新配置NVIDIA驱动：有时需要重新运行驱动配置脚本。
      sudo /usr/lib/nvidia/sdk/nvidia-sdk-binaries/nvidia-*.run --dkms
    • 重启系统：完成上述操作后，重启开发板。
    • 终极方案：如果以上都不行，可能是刷机过程有瑕疵。最彻底的方法是重新用SDK Manager刷机，并在“Setup & Configure”阶段确保所有组件安装成功。

  3. 验证CUDA：驱动正常后，验证CUDA：

    nvcc -V

    这会显示CUDA编译器版本。同时，可以运行一个简单的CUDA样例：

    cd /usr/local/cuda/samples/1_Utilities/deviceQuery sudo make ./deviceQuery

    如果最后显示“Result = PASS”，说明CUDA环境完全正常。

5. 深度学习环境搭建实战

基础系统就绪后，我们就可以搭建AI开发环境了。Orin上常见的两种方式是使用NVIDIA官方提供的容器，或者通过pip在本地安装。

5.1 方式一：使用NVIDIA L4T容器（推荐新手）

这是最省心、依赖冲突最少的方式。NVIDIA为Jetson提供了预配置好的Docker容器，里面包含了PyTorch、TensorFlow等框架。

  1. 安装Docker：如果刷机时没装，可以手动安装：

    sudo apt install docker.io docker-compose sudo usermod -aG docker $USER

    注销并重新登录，使docker用户组生效。

  2. 拉取PyTorch容器：以PyTorch为例，去NVIDIA NGC目录查找针对JetPack 5.x和Orin的PyTorch容器标签。

    sudo docker pull nvcr.io/nvidia/l4t-pytorch:r35.2.1-pth2.0-py3

    （注意：标签r35.2.1对应JetPack 5.1.2，请根据你的实际版本调整）。

  3. 运行容器：

    sudo docker run -it --rm --runtime nvidia --network host nvcr.io/nvidia/l4t-pytorch:r35.2.1-pth2.0-py3
    • --runtime nvidia：允许容器使用GPU。
    • --network host：容器使用主机网络，方便调试。
    • -it：交互式终端。

  4. 在容器内验证：进入容器后，你可以运行python3，然后import torch，再print(torch.cuda.is_available())，应该返回True。这样，一个完整的PyTorch GPU环境就准备好了，无需操心任何依赖。

5.2 方式二：本地pip安装（更灵活）

如果你需要更定制化的环境，或者不想用容器，可以选择本地安装。

  1. 安装系统依赖：

    sudo apt install python3-pip python3-dev libopenblas-dev libopenmpi-dev

  2. 安装PyTorch：绝对不能直接用pip install torch！必须安装NVIDIA为Jetson预编译的版本。去PyTorch for Jetson的官方页面，找到对应你JetPack版本的wheel文件链接。例如，对于JetPack 5.1.2 (Python 3.8)：

    wget https://nvidia.box.com/shared/static/ssf2v7pf5i245fk4i0q932hyu6aj6z7e.whl -O torch-2.0.0+nv23.05-cp38-cp38-linux_aarch64.whl pip3 install torch-2.0.0+nv23.05-cp38-cp38-linux_aarch64.whl

  3. 安装TorchVision：同样需要安装对应版本：

    sudo apt install libjpeg-dev zlib1g-dev libpython3-dev libavcodec-dev libavformat-dev libswscale-dev pip3 install --no-build-isolation torchvision==0.15.1

    --no-build-isolation选项很重要，能避免在资源有限的开发板上进行耗时的编译。

  4. 验证安装：同样在Python中测试import torch和torch.cuda.is_available()。

实操心得：对于大多数AI应用开发，我强烈推荐容器方案。它环境隔离，干净卫生，并且官方容器都经过了充分优化和测试。本地安装更适合需要深度定制、或对磁盘空间极其敏感的场景。记住，在Orin上，pip安装任何大型包（如numpy,opencv-python）都可能触发漫长的本地编译，务必使用预编译的wheel文件。

6. 性能优化与系统配置技巧

让Orin跑起来只是第一步，让它跑得又快又稳，还需要一些优化配置。

6.1 电源模式与时钟设置

AGX Orin有多种功耗模式，直接影响性能和发热。

  • 查看当前模式：sudo jetson_clocks --show
  • 设置模式：使用sudo nvpmodel工具。例如，设置为最大性能模式（50W）：
    sudo nvpmodel -m 0
    模式0通常是MAXN（最高性能），模式1是15W等低功耗模式。你可以使用sudo nvpmodel -q查询所有可用模式。
  • 启用风扇控制：为了在高性能模式下保持散热，需要设置风扇策略。编辑/etc/nvfancontrol.conf文件，可以配置温度-风扇转速曲线。一个简单的自动控制方式是：
    sudo systemctl enable nvfancontrol sudo systemctl start nvfancontrol

6.2 交换空间（Swap）优化

Orin的物理内存（通常为32GB或64GB）对于大型模型可能仍显紧张。增加交换空间可以防止内存耗尽导致程序崩溃。

  1. 禁用默认的交换文件（如果存在）：

    sudo swapoff /swapfile sudo rm /swapfile

  2. 创建一个大交换文件（例如32GB）：

    sudo fallocate -l 32G /swapfile sudo chmod 600 /swapfile sudo mkswap /swapfile sudo swapon /swapfile

  3. 使其永久生效：编辑/etc/fstab文件，在末尾添加一行：

    /swapfile none swap sw 0 0

6.3 存储IO优化

系统的eMMC或NVMe SSD是共享的，同时用于系统、数据和交换分区。可以通过调整I/O调度器来优化响应。对于NVMe SSD，通常none（无调度）或kyber是好的选择。

echo kyber | sudo tee /sys/block/nvme0n1/queue/scheduler

（请将nvme0n1替换为你实际的块设备名，可用lsblk命令查看）。

7. 常见问题排查与解决方案实录

在实际使用中，你肯定会遇到各种问题。这里记录了几个最典型的问题和我的解决思路。

7.1 问题：nvidia-smi显示GPU显存被未知进程占用

现象：刚开机或运行一段时间后，nvidia-smi显示有一部分显存被“Xorg”或某个未知进程占用，导致自己的程序无法申请足够显存。

原因分析：这是Orin的常见情况。因为其GPU是显示和计算共享的。桌面环境（使用X11显示服务器，进程名为Xorg）会占用一部分显存作为帧缓冲区。此外，一些后台服务（如用于摄像头处理的nvargus-daemon）也会预先占用显存。

解决方案：

  1. 轻量级方案：如果你不需要图形桌面，可以完全关闭它，使用纯命令行模式。通过SSH登录，然后禁用图形界面服务：

    sudo systemctl set-default multi-user.target sudo reboot

    重启后就是纯命令行界面，显存占用会降到最低。需要恢复图形界面则运行sudo systemctl set-default graphical.target并重启。

  2. 折中方案：需要桌面，但想减少占用。可以尝试更换更轻量的显示服务器，比如Wayland（如果支持），或者减少屏幕分辨率和刷新率。

  3. 排查后台服务：使用sudo fuser -v /dev/nvidia*命令查看哪些进程打开了NVIDIA设备文件。找到非必要的进程（非你的AI程序），可以考虑临时停止它们。例如，如果不使用CSI摄像头，可以停止nvargus-daemon：

    sudo systemctl stop nvargus-daemon sudo systemctl disable nvargus-daemon

7.2 问题：运行AI模型时性能不达预期

现象：模型推理速度很慢，GPU利用率不高。

排查思路：

  1. 检查电源模式：首先确认是否运行在最高性能模式（sudo nvpmodel -m 0）。在电池供电或某些配置下，可能被限制在了低功耗模式。
  2. 检查CPU/GPU频率：运行sudo jetson_clocks可以锁定CPU、GPU等所有时钟到最高频率。这是一个临时提升性能的命令。长期使用需注意散热。
  3. 使用TensorRT优化：如果你在用PyTorch或TensorFlow的原生模型推理，性能损失会很大。务必使用TensorRT进行模型转换和优化。NVIDIA提供了torch2trt或tf2onnx+onnx2trt等工具链。一个经过TensorRT优化后的模型，其推理速度通常能有数倍甚至数十倍的提升。
  4. 分析瓶颈：使用tegrastats工具监控系统资源：
    tegrastats --interval 1000
    观察GR3D_FREQ（GPU利用率）、CPU利用率、RAM和SWAP使用情况。如果GPU利用率低，可能是数据预处理（在CPU上）成了瓶颈；如果频繁使用SWAP，则是内存不足。

7.3 问题：无法通过SSH连接开发板

现象：知道开发板的IP地址，但ssh连接超时或被拒绝。

排查步骤：

  1. 确认网络：确保开发板和宿主机在同一个局域网内。在开发板上用ip addr show查看IP，在宿主机上ping一下这个IP。
  2. 确认SSH服务：在开发板上运行sudo systemctl status sshd，确保服务是active (running)。如果没有安装，则sudo apt install openssh-server。
  3. 检查防火墙：Jetson系统默认的ufw防火墙可能是开启的。可以暂时关闭测试：sudo ufw disable。或者开放22端口：sudo ufw allow 22。
  4. 使用串口调试：如果网络SSH完全无法建立，最后的救命稻草是串口。用USB转TTL串口线连接Orin的串口调试针脚（通常是J17，TX/RX/GND），在宿主机上用串口工具（如Putty、Minicom、Picocom）以115200波特率连接。通过串口登录系统后，再排查网络和SSH配置问题。

7.4 问题：安装Python包时编译失败

现象：pip install某个包时，出现大段红色错误输出，提示gcc编译失败，特别是安装opencv-python、scipy等包含C扩展的包时。

原因与解决：Orin是ARM64架构，很多PyPI上的预编译wheel文件只针对x86_64。当没有可用的ARM64 wheel时，pip会尝试从源码编译，这需要完整的编译工具链和开发库，且过程极其耗时，容易失败。

最佳实践：

  1. 优先寻找预编译的ARM64 wheel：对于科学计算和AI相关包，可以关注piwheels项目（一个针对ARM的Python包仓库），或者一些开发者维护的第三方源。在pip install时，可以尝试指定--extra-index-url。
  2. 使用apt安装系统包：很多Python包在Ubuntu仓库中有对应的二进制版本，虽然可能版本稍旧，但保证能用。例如，sudo apt install python3-opencv python3-scipy。
  3. 减少编译依赖：对于必须从源码编译的包，确保已安装所有构建依赖。一个基础的构建环境包括：
    sudo apt install build-essential cmake git libatlas-base-dev gfortran
  4. 终极方案：使用容器：再次强调，在NVIDIA提供的L4T容器里，这些复杂的包都已经预装好了，这是避免编译地狱最有效的方法。

从一块陌生的开发板到一个稳定高效的AI推理平台，这个过程就像拼装一台精密的仪器。AGX Orin本身硬件素质极高，但软件栈的复杂性需要耐心去梳理。我的经验是，前期严格按照官方推荐路径（SDK Manager刷机 + 容器部署）能避开90%的坑。当系统稳定后，再根据具体需求去做深度定制和优化。记住，nvidia-smi是你的健康检查仪，tegrastats是性能仪表盘，而TensorRT则是释放Orin全部潜力的钥匙。多动手试错，遇到问题先查Jetson官方论坛和GitHub Issues，你遇到的问题很可能别人已经踩过坑并给出了解决方案。