JetPack 6.2 超级模式(SUPER Mode)技术解析与全型号基准评测
一、概述
随着 NVIDIA JetPack 6.2 正式推送,Jetson Orin Nano、Jetson Orin NX 全系列生产模块与开发者套件正式支持超级模式(MAXN SUPER)。该模式通过解锁更高的 CPU、GPU、DLA 与内存调度频率,大幅释放边缘设备生成式AI推理性能,最高可实现2倍生成式AI性能提升。
本次更新彻底改善了传统边缘嵌入式设备运行 LLM、VLM、ViT 模型算力不足、推理速度慢的问题,让低成本、小型化边缘设备可稳定落地离线大模型、多模态视觉、机器人感知等高阶 AI 应用,有效降低边缘人工智能与机器人项目的整体拥有成本。
二、JetPack 6.2 全新电源功率模式更新
超级模式为全新刷机配置专属功能,仅在 JetPack 6.2 新版烧录镜像中开放,原有默认刷机配置保持不变,不新增超级功率模式。各型号模块新旧功率模式对比如下:
|
设备型号 |
原有参考功率模式 |
JetPack 6.2 新增超级功率模式 |
|---|---|---|
|
Jetson Orin Nano 4GB |
7W、10W |
10W、25W、MAXN SUPER |
|
Jetson Orin Nano 8GB |
7W、15W |
15W、25W、MAXN SUPER |
|
Jetson Orin NX 8GB |
10W、15W、20W、MAXN |
10W、15W、20W、40W、MAXN SUPER |
|
Jetson Orin NX 16GB |
10W、15W、25W、MAXN |
10W、15W、25W、40W、MAXN SUPER |
MAXN SUPER 模式说明:无上限功耗调度模式,自动拉满 CPU、GPU、DLA、PVA 及 SoC 核心主频,最大化释放设备算力。若实时功耗超出模块热设计功率(TDP)预算,设备会自动温和降频,保障长期运行稳定性。NVIDIA 官方建议开发者根据自身散热结构,自定义功耗配置,平衡性能、功耗与热稳定性。
三、标准版与超级模式硬件规格对比
超级模式主要提升 GPU 主频、CPU 主频、AI 算力吞吐,以下为各型号默认模式与超级模式完整规格对照(INT8 稀疏/密集算力、CUDA 核心、内存带宽等):
|
参数项 |
Orin Nano 4GB 标准版 |
Orin Nano 4GB 超级版 |
Orin Nano 8GB 标准版 |
Orin Nano 8GB 超级版 |
Orin NX 8GB 标准版 |
Orin NX 8GB 超级版 |
Orin NX 16GB 标准版 |
Orin NX 16GB 超级版 |
|---|---|---|---|---|---|---|---|---|
|
INT8 峰值算力(稀疏/密集) |
20 / 10 TOPS |
34 / 17 TOPS |
40 / 20 TOPS |
67 / 33 TOPS |
70 / 35 TOPS |
117 / 58 TOPS |
100 / 50 TOPS |
157 / 78 TOPS |
|
CUDA/张量核心 |
512CUDA、16张量 |
512CUDA、16张量 |
1024CUDA、32张量 |
1024CUDA、32张量 |
1024CUDA、32张量 |
1024CUDA、32张量 |
1024CUDA、32张量 |
1024CUDA、32张量 |
|
GPU 主频 |
625MHz |
1020MHz |
625MHz |
1020MHz |
765MHz |
1173MHz |
918MHz |
1173MHz |
|
FP16 算力 |
5 TFLOPs |
8.5 TFLOPs |
10 TFLOPs |
17 TFLOPs |
13 TFLOPs |
19 TFLOPs |
15 TFLOPs |
19 TFLOPs |
|
CPU 核心/主频 |
6×A78 1.5GHz |
6×A78 1.7GHz |
6×A78 1.5GHz |
6×A78 1.7GHz |
6×A78 2.0GHz |
6×A78 2.0GHz |
8×A78 2.0GHz |
8×A78 2.0GHz |
|
DLA INT8 算力 |
— |
— |
— |
— |
20 / 10 TOPS |
40 / 20 TOPS |
40 / 20 TOPS |
80 / 40 TOPS |
|
内存带宽 |
34 GB/s |
51 GB/s |
68 GB/s |
102 GB/s |
102 GB/s |
102 GB/s |
102 GB/s |
102 GB/s |
四、官方功耗工具更新
NVIDIA 同步更新了功耗估算工具(nvpmodel),内置超级模式参数模板。开发者可自定义 CPU、GPU、DLA 负载与最大主频,生成专属功耗配置文件,精准适配不同业务场景。官方建议上线前结合设备散热结构做实测验证,保证长期运行稳定性。
五、生成式AI模型基准测试(官方实测)
本次基准测试全部基于 JetPack 6.2、INT4/FP4 量化、MLC API 与 TensorRT 推理,覆盖 LLM 大语言模型、VLM 多模态模型、ViT 视觉模型三大类,数据为官方可复现真实性能,增益为超级模式相对默认模式的提升倍率。
1. 大语言模型 LLM 性能(tokens/s,INT4量化)
Orin Nano 4GB
|
模型 |
标准版 |
超级模式 |
性能增益 |
|---|---|---|---|
|
Gemma 2 2B |
11.40 |
18.60 |
1.64倍 |
|
SmallLM2 1.7B |
23.00 |
35.80 |
1.56倍 |
Orin Nano 8GB
|
模型 |
标准版 |
超级模式 |
性能增益 |
|---|---|---|---|
|
Llama 3.1 8B |
14.00 |
19.10 |
1.37倍 |
|
Llama 3.2 3B |
27.70 |
43.10 |
1.55倍 |
|
Qwen 2.5 7B |
14.20 |
21.80 |
1.53倍 |
|
Gemma 2 2B |
21.50 |
35.00 |
1.63倍 |
|
Gemma 2 9B |
7.20 |
9.20 |
1.28倍 |
|
Phi-3.5 3.8B |
24.70 |
38.10 |
1.54倍 |
|
SmallLM2 1.7B |
41.00 |
64.50 |
1.57倍 |
Orin NX 8GB
|
模型 |
标准版 |
超级模式 |
性能增益 |
|---|---|---|---|
|
Llama 3.1 8B |
15.90 |
23.10 |
1.46倍 |
|
Llama 3.2 3B |
34.50 |
46.50 |
1.35倍 |
|
Qwen 2.5 7B |
17.10 |
23.80 |
1.39倍 |
|
Gemma 2 2B |
26.60 |
39.30 |
1.48倍 |
Orin NX 16GB
|
模型 |
标准版 |
超级模式 |
性能增益 |
|---|---|---|---|
|
Llama 3.1 8B |
20.50 |
22.80 |
1.11倍 |
|
Qwen 2.5 7B |
20.80 |
23.50 |
1.13倍 |
小结:低、中阶显存型号性能提升幅度更大,16GB 高显存模块本身算力释放充分,超级模式增益相对温和。
2. 视觉语言模型 VLM 性能(tokens/s)
测试说明:VILA、LLAVA 系列采用 INT4 量化,其余模型采用 FP4 量化。
|
设备型号 |
模型 |
标准版 |
超级模式 |
增益 |
|---|---|---|---|---|
|
Orin Nano 4GB |
PaliGemma2 3B |
7.2 |
11.2 |
1.56倍 |
|
Orin Nano 8GB |
InternVL2.5 4B |
2.5 |
5.1 |
2.04倍 |
|
Orin NX 8GB |
LLAVA1.6 7B |
0.5 |
1.2 |
2.54倍 |
|
Orin NX 16GB |
Qwen2 VL 2B |
4.0 |
4.8 |
1.20倍 |
3. 视觉变换器 ViT 性能(FPS,FP16)
基于 TensorRT 推理,为图像分类、特征提取、分割任务实测帧率。
|
设备型号 |
模型 |
标准版 |
超级模式 |
增益 |
|---|---|---|---|---|
|
Orin Nano 4GB |
SAM2 Base |
2.5 |
3.8 |
1.54倍 |
|
Orin Nano 8GB |
DINOv2-base |
75.0 |
126.0 |
1.68倍 |
|
Orin NX 8GB |
Clip-vit-base-patch16 |
101.7 |
204.3 |
2.01倍 |
|
Orin NX 16GB |
DINOv2-base |
127.5 |
159.8 |
1.25倍 |
六、超级模式开启方法
1. 必须刷入 JetPack 6.2 新版超级模式配置镜像:jetson-orin-nano-devkit-super.conf,旧镜像无法启用。
2. 终端命令开启超级模式:
Orin Nano 系列:sudo nvpmodel -m 2
Orin NX 系列:sudo nvpmodel -m 0
3. 亦可通过系统桌面右上角电源菜单,可视化切换全部功率模式。
七、配套生态与开发者资源
JetPack 6.2 同步更新官方开发资源:包含新版模块 datasheet、热设计指南、硬件设计手册。同时 NVIDIA AI Lab 提供近 50 份边缘生成式 AI 教程、预编译容器、LLM/VLM 快速部署案例,支持 Ollama 可视化部署、NanoOWL 视觉推理、LeRobot 机器人物理智能开发。
八、客观总结
JetPack 6.2 超级模式是 Orin 系列边缘设备的一次重大性能升级,通过功耗与频率解禁,彻底补齐了小型边缘设备生成式AI推理性能短板。其中入门级 Nano 型号、中阶 NX 8GB 型号增益最为显著,非常适合机器人、离线智能终端、工业视觉等边缘场景升级迭代;而 NX 16GB 本身算力充沛,超级模式更多起到性能补强与稳定性优化作用。该更新大幅降低了端侧大模型落地门槛,让低成本嵌入式设备具备商用级生成式AI推理能力。
更多推荐



所有评论(0)