探索边缘计算在实时人工智能中的优势。了解如何降低延迟,Ultralytics Ultralytics 部署到边缘设备。
边缘计算是一种分布式信息技术架构,它将数据处理和存储移近实际需求的位置,而非依赖通常相距数千英里的中央位置。通过在数据源附近(如本地服务器、物联网网关或设备本身)处理数据,这种方法显著降低了延迟,并最大限度地减少了数据传输所需的带宽。 在人工智能与机器学习领域,边缘计算为部署边缘AI提供了关键基础设施,使复杂模型能直接在智能摄像头、无人机和工业传感器上运行,实现即时响应。
从集中式云端处理转向本地化边缘处理,带来了若干变革性优势, 尤其在计算机视觉和实时分析领域。
云计算擅长存储海量数据集并训练大规模模型,而边缘计算则侧重于执行阶段。将二者视为互补技术而非竞争关系更为合理。 云端通常用于模型训练,该过程需要强大的计算能力来处理历史数据。训练完成后,优化后的模型将部署至边缘进行推理。这种混合方案兼顾了双方优势:云端无限的可扩展性与边缘的高速处理能力。
边缘计算通过将智能直接嵌入物理操作,正在重塑各行各业。
为在资源受限的边缘设备上运行复杂模型,开发者常采用优化技术,例如 模型量化或导出至专用格式,如 TensorRT 或 ONNX。 Ultralytics 简化了这一流程,支持用户在云端训练模型,并将其无缝部署至各类边缘目标设备。
以下示例演示了如何将 YOLO26模型导出NCNN 该格式针对移动设备和嵌入式边缘设备进行了高度优化。
from ultralytics import YOLO
# Load a pre-trained YOLO26 model
model = YOLO("yolo26n.pt")
# Export the model to NCNN format for mobile edge deployment
# This creates a lightweight, optimized version of the model
model.export(format="ncnn")