在无人机边缘计算上部署 AI 推理

问题定义

在飞行测试前，如何为无人机的机载计算选择推理运行时并验证模型？

步骤

1. 定义运行时目标

   确认机载计算厂商与加速器（NVIDIA GPU/Jetson、Intel、Rockchip NPU 或通用 CPU）。这是硬件事实，不是兼容性声明。

2. 选择运行时家族

   记录与目标匹配的官方运行时：NVIDIA 用 TensorRT、Intel 用 OpenVINO、Rockchip 用 RKNN-Toolkit2、便携部署用 ONNX Runtime。

3. 转换代表性模型

   用官方转换工具链转换一个代表性模型，并记录模型、运行时与工具链的确切版本。

4. 在目标硬件上测量

   用文档化评估集在实际机载硬件上测量延迟与精度。不要假设桌面结果可以迁移。

5. 记录证据

   在集成笔记中记录运行时、模型、转换工具链、硬件与带日期的测量数字。

指南

判断标准

• 模型能在目标硬件上以记录版本运行。
• 没有测量的性能或兼容性声明不被提出。

常见风险

• 假设桌面 GPU 基准可以迁移到边缘硬件。
• 仅凭 ONNX 等通用格式推断兼容性。

检查表