深圳Yolo 视觉
深圳
立即加入
词汇表

边缘计算

探索边缘计算在实时人工智能中的优势。了解如何降低延迟,Ultralytics Ultralytics 部署到边缘设备。

边缘计算是一种分布式信息技术架构,它将数据处理和存储移近实际需求的位置,而非依赖通常相距数千英里的中央位置。通过在数据源附近(如本地服务器、物联网网关或设备本身)处理数据,这种方法显著降低了延迟,并最大限度地减少了数据传输所需的带宽。 在人工智能与机器学习领域,边缘计算为部署边缘AI提供了关键基础设施,使复杂模型能直接在智能摄像头、无人机和工业传感器上运行,实现即时响应。

边缘计算的核心优势

从集中式云端处理转向本地化边缘处理,带来了若干变革性优势, 尤其在计算机视觉和实时分析领域。

  • 延迟降低:传统云架构要求数据先传输至数据中心进行处理,再返回终端设备。边缘计算消除了这种往返过程,实现了毫秒级实时推理。这对自动驾驶汽车等安全关键型系统至关重要——这类系统必须在瞬间做出刹车决策。
  • 带宽效率:传输用于物体检测的高清视频流会消耗大量带宽。通过在本地处理原始数据,仅将相关元数据或警报发送至云端,企业可大幅降低数据传输成本。
  • 增强的数据隐私:敏感信息(如医学影像或面部识别数据) 可完全在本地环境中处理。这种本地隔离机制通过确保个人数据永不离开设备, 支持符合《通用数据保护条例》(GDPR)等严格法规。
  • 离线功能:即使互联网连接时断时续或完全中断,边缘设备仍能自主运行。这种可靠性对农业人工智能等应用至关重要——在网络覆盖薄弱的偏远农田,无人机正是依靠此功能持续监测作物生长。

边缘计算与云计算

云计算擅长存储海量数据集并训练大规模模型,而边缘计算则侧重于执行阶段。将二者视为互补技术而非竞争关系更为合理。 云端通常用于模型训练,该过程需要强大的计算能力来处理历史数据。训练完成后,优化后的模型将部署至边缘进行推理。这种混合方案兼顾了双方优势:云端无限的可扩展性与边缘的高速处理能力。

实际应用

边缘计算通过将智能直接嵌入物理操作,正在重塑各行各业。

  • 智能制造: 在工业自动化领域,工厂利用边缘网关分析机械设备的传感器数据。一旦检测到振动异常,系统可立即触发预测性维护协议,从而避免高昂的停机成本。
  • 智能零售:实体店铺采用边缘计算摄像头进行库存管理。系统可track 货架track 水平,并提醒员工及时补货,在无需将顾客视频流传输至外部服务器的情况下提升运营效率。
  • 交通管理:智慧城市在路口部署边缘节点以控制交通信号灯。通过在本地实时分析车流,这些系统能够优化信号灯时序以缓解拥堵,其运作独立于中央控制中心。

将模型部署到边缘

为在资源受限的边缘设备上运行复杂模型,开发者常采用优化技术,例如 模型量化或导出至专用格式,如 TensorRTONNXUltralytics 简化了这一流程,支持用户在云端训练模型,并将其无缝部署至各类边缘目标设备。

以下示例演示了如何将 YOLO26模型导出NCNN 该格式针对移动设备和嵌入式边缘设备进行了高度优化。

from ultralytics import YOLO

# Load a pre-trained YOLO26 model
model = YOLO("yolo26n.pt")

# Export the model to NCNN format for mobile edge deployment
# This creates a lightweight, optimized version of the model
model.export(format="ncnn")

相关概念

  • 边缘人工智能边缘计算指的是分布式基础设施,而边缘人工智能则特指在该基础设施上运行的智能算法应用。
  • 物联网(IoT)由嵌入传感器和软件的物理对象——"事物"——组成的网络。边缘计算提供处理能力,使这些物联网设备变得"智能"。
  • 雾计算 一种去中心化的计算基础设施,其中数据、计算、存储和应用程序位于数据源与云端之间, 常被视为云计算向边缘的延伸。

加入Ultralytics 社区

加入人工智能的未来。与全球创新者联系、协作和共同成长

立即加入