一、概述

随着 NVIDIA JetPack 6.2 正式推送,Jetson Orin Nano、Jetson Orin NX 全系列生产模块与开发者套件正式支持超级模式(MAXN SUPER)。该模式通过解锁更高的 CPU、GPU、DLA 与内存调度频率,大幅释放边缘设备生成式AI推理性能,最高可实现2倍生成式AI性能提升

本次更新彻底改善了传统边缘嵌入式设备运行 LLM、VLM、ViT 模型算力不足、推理速度慢的问题,让低成本、小型化边缘设备可稳定落地离线大模型、多模态视觉、机器人感知等高阶 AI 应用,有效降低边缘人工智能与机器人项目的整体拥有成本。

二、JetPack 6.2 全新电源功率模式更新

超级模式为全新刷机配置专属功能,仅在 JetPack 6.2 新版烧录镜像中开放,原有默认刷机配置保持不变,不新增超级功率模式。各型号模块新旧功率模式对比如下:

设备型号

原有参考功率模式

JetPack 6.2 新增超级功率模式

Jetson Orin Nano 4GB

7W、10W

10W、25W、MAXN SUPER

Jetson Orin Nano 8GB

7W、15W

15W、25W、MAXN SUPER

Jetson Orin NX 8GB

10W、15W、20W、MAXN

10W、15W、20W、40W、MAXN SUPER

Jetson Orin NX 16GB

10W、15W、25W、MAXN

10W、15W、25W、40W、MAXN SUPER

MAXN SUPER 模式说明:无上限功耗调度模式,自动拉满 CPU、GPU、DLA、PVA 及 SoC 核心主频,最大化释放设备算力。若实时功耗超出模块热设计功率(TDP)预算,设备会自动温和降频,保障长期运行稳定性。NVIDIA 官方建议开发者根据自身散热结构,自定义功耗配置,平衡性能、功耗与热稳定性。

三、标准版与超级模式硬件规格对比

超级模式主要提升 GPU 主频、CPU 主频、AI 算力吞吐,以下为各型号默认模式与超级模式完整规格对照(INT8 稀疏/密集算力、CUDA 核心、内存带宽等):

参数项

Orin Nano 4GB 标准版

Orin Nano 4GB 超级版

Orin Nano 8GB 标准版

Orin Nano 8GB 超级版

Orin NX 8GB 标准版

Orin NX 8GB 超级版

Orin NX 16GB 标准版

Orin NX 16GB 超级版

INT8 峰值算力(稀疏/密集)

20 / 10 TOPS

34 / 17 TOPS

40 / 20 TOPS

67 / 33 TOPS

70 / 35 TOPS

117 / 58 TOPS

100 / 50 TOPS

157 / 78 TOPS

CUDA/张量核心

512CUDA、16张量

512CUDA、16张量

1024CUDA、32张量

1024CUDA、32张量

1024CUDA、32张量

1024CUDA、32张量

1024CUDA、32张量

1024CUDA、32张量

GPU 主频

625MHz

1020MHz

625MHz

1020MHz

765MHz

1173MHz

918MHz

1173MHz

FP16 算力

5 TFLOPs

8.5 TFLOPs

10 TFLOPs

17 TFLOPs

13 TFLOPs

19 TFLOPs

15 TFLOPs

19 TFLOPs

CPU 核心/主频

6×A78 1.5GHz

6×A78 1.7GHz

6×A78 1.5GHz

6×A78 1.7GHz

6×A78 2.0GHz

6×A78 2.0GHz

8×A78 2.0GHz

8×A78 2.0GHz

DLA INT8 算力

20 / 10 TOPS

40 / 20 TOPS

40 / 20 TOPS

80 / 40 TOPS

内存带宽

34 GB/s

51 GB/s

68 GB/s

102 GB/s

102 GB/s

102 GB/s

102 GB/s

102 GB/s

四、官方功耗工具更新

NVIDIA 同步更新了功耗估算工具(nvpmodel),内置超级模式参数模板。开发者可自定义 CPU、GPU、DLA 负载与最大主频,生成专属功耗配置文件,精准适配不同业务场景。官方建议上线前结合设备散热结构做实测验证,保证长期运行稳定性。

五、生成式AI模型基准测试(官方实测)

本次基准测试全部基于 JetPack 6.2、INT4/FP4 量化、MLC API 与 TensorRT 推理,覆盖 LLM 大语言模型、VLM 多模态模型、ViT 视觉模型三大类,数据为官方可复现真实性能,增益为超级模式相对默认模式的提升倍率。

1. 大语言模型 LLM 性能(tokens/s,INT4量化)

Orin Nano 4GB

模型

标准版

超级模式

性能增益

Gemma 2 2B

11.40

18.60

1.64倍

SmallLM2 1.7B

23.00

35.80

1.56倍

Orin Nano 8GB

模型

标准版

超级模式

性能增益

Llama 3.1 8B

14.00

19.10

1.37倍

Llama 3.2 3B

27.70

43.10

1.55倍

Qwen 2.5 7B

14.20

21.80

1.53倍

Gemma 2 2B

21.50

35.00

1.63倍

Gemma 2 9B

7.20

9.20

1.28倍

Phi-3.5 3.8B

24.70

38.10

1.54倍

SmallLM2 1.7B

41.00

64.50

1.57倍

Orin NX 8GB

模型

标准版

超级模式

性能增益

Llama 3.1 8B

15.90

23.10

1.46倍

Llama 3.2 3B

34.50

46.50

1.35倍

Qwen 2.5 7B

17.10

23.80

1.39倍

Gemma 2 2B

26.60

39.30

1.48倍

Orin NX 16GB

模型

标准版

超级模式

性能增益

Llama 3.1 8B

20.50

22.80

1.11倍

Qwen 2.5 7B

20.80

23.50

1.13倍

小结:低、中阶显存型号性能提升幅度更大,16GB 高显存模块本身算力释放充分,超级模式增益相对温和。

2. 视觉语言模型 VLM 性能(tokens/s)

测试说明:VILA、LLAVA 系列采用 INT4 量化,其余模型采用 FP4 量化。

设备型号

模型

标准版

超级模式

增益

Orin Nano 4GB

PaliGemma2 3B

7.2

11.2

1.56倍

Orin Nano 8GB

InternVL2.5 4B

2.5

5.1

2.04倍

Orin NX 8GB

LLAVA1.6 7B

0.5

1.2

2.54倍

Orin NX 16GB

Qwen2 VL 2B

4.0

4.8

1.20倍

3. 视觉变换器 ViT 性能(FPS,FP16)

基于 TensorRT 推理,为图像分类、特征提取、分割任务实测帧率。

设备型号

模型

标准版

超级模式

增益

Orin Nano 4GB

SAM2 Base

2.5

3.8

1.54倍

Orin Nano 8GB

DINOv2-base

75.0

126.0

1.68倍

Orin NX 8GB

Clip-vit-base-patch16

101.7

204.3

2.01倍

Orin NX 16GB

DINOv2-base

127.5

159.8

1.25倍

六、超级模式开启方法

1. 必须刷入 JetPack 6.2 新版超级模式配置镜像:jetson-orin-nano-devkit-super.conf,旧镜像无法启用。

2. 终端命令开启超级模式:

Orin Nano 系列:sudo nvpmodel -m 2

Orin NX 系列:sudo nvpmodel -m 0

3. 亦可通过系统桌面右上角电源菜单,可视化切换全部功率模式。

七、配套生态与开发者资源

JetPack 6.2 同步更新官方开发资源:包含新版模块 datasheet、热设计指南、硬件设计手册。同时 NVIDIA AI Lab 提供近 50 份边缘生成式 AI 教程、预编译容器、LLM/VLM 快速部署案例,支持 Ollama 可视化部署、NanoOWL 视觉推理、LeRobot 机器人物理智能开发。

八、客观总结

JetPack 6.2 超级模式是 Orin 系列边缘设备的一次重大性能升级,通过功耗与频率解禁,彻底补齐了小型边缘设备生成式AI推理性能短板。其中入门级 Nano 型号、中阶 NX 8GB 型号增益最为显著,非常适合机器人、离线智能终端、工业视觉等边缘场景升级迭代;而 NX 16GB 本身算力充沛,超级模式更多起到性能补强与稳定性优化作用。该更新大幅降低了端侧大模型落地门槛,让低成本嵌入式设备具备商用级生成式AI推理能力。

Logo

AtomGit AI 社区提供模型库、数据集、Agent、Token等资源

更多推荐