边缘计算

边缘计算为何对人工智能/移动计算至关重要

边缘计算对人工智能（AI）和人工智能（ML），尤其是计算机视觉（CV）领域尤其具有变革意义。许多人工智能应用（如涉及图像或视频流分析的应用）都需要对传感器数据进行即时处理，以便及时做出决策。将大量数据发送到云端会带来延迟（时延），这对于要求实时推理的场景来说往往是不可接受的。边缘计算通过允许 ML 模型（包括复杂的物体检测模型，如 Ultralytics YOLO等复杂的对象检测模型，直接在数据源上或数据源附近运行。这大大缩短了响应时间，节省了网络带宽，并通过保持敏感信息的本地化而显著改善了数据隐私，符合GDPR 等法规的要求。功能强大而节能的硬件，NVIDIA Jetson系列等专用GPU和专为边缘设备设计的TPU（如Google Coral EdgeTPU）等加速器的发展，进一步推动了这一趋势。您可以了解有关在边缘人工智能设备上部署计算机视觉应用的更多信息。

边缘计算与边缘人工智能

必须区分边缘计算和边缘人工智能。

• 边缘计算：指将计算任务移至更接近数据源的更广泛的基础设施和实践。它包括分布式处理所需的硬件（边缘设备、服务器、网关）、网络和管理系统。将其视为舞台。
• 边缘人工智能：具体包括直接在这些边缘设备上运行人工智能和 ML 算法。它利用边缘计算基础设施在本地执行推理等任务。边缘人工智能是舞台上的表演。

从本质上讲，边缘人工智能是边缘计算模式的一个子集或特定应用，侧重于在集中式数据中心之外部署人工智能功能。您可以更详细地了解现实世界中的边缘人工智能应用。

真实世界的人工智能/移动语言应用

边缘计算可支持各种依赖本地处理的创新人工智能/移动语言应用：

• 自动驾驶汽车：自动驾驶汽车需要即时处理用于导航、避障和决策的传感器数据（摄像头、激光雷达）。依赖云计算会带来不可接受的延迟。边缘计算允许特斯拉或Waymo等公司正在开发的汽车在车内执行关键的人工智能计算，以确保安全运行。Ultralytics 模型可以在汽车人工智能解决方案中发挥作用。
• 智能制造：在工厂中，配备摄像头和人工智能模型的边缘设备，如 YOLO11等配备摄像头和人工智能模型的边缘设备可以对生产线进行实时质量检测，即时发现缺陷，监控工人安全，并优化流程，而无需将大量视频数据发送到云端。这不仅能提高效率，还能立即进行干预。探索人工智能如何提升制造业。
• 医疗保健领域的人工智能：边缘计算可利用可穿戴传感器或室内摄像头对患者进行实时监控，在本地设备上对医学影像数据进行即时分析，并为智能医疗工具提供动力，在手术过程中提供即时反馈，从而加强患者护理和数据隐私保护。
• 零售分析：商店利用边缘设备进行更智能的零售库存管理，通过摄像头匿名分析顾客行为以优化布局，并为亚马逊 Go 等无收银台结账系统提供支持。

边缘部署的主要考虑因素

在边缘成功部署人工智能模型通常需要特定的技术和工具：

• 模型优化： 模型量化和模型剪枝等技术对缩小模型尺寸和降低计算要求至关重要，可确保模型在资源有限的边缘硬件上高效运行。像 TensorRT和 OpenVINO等框架有助于针对特定硬件优化模型。
• 硬件选择：选择合适的边缘设备（Raspberry Pi、NVIDIA Jetson、Google Coral）取决于应用的性能需求、功耗预算和环境条件。
• 管理和协调：管理可能成千上万的分布式边缘设备需要强大的工具来进行部署、监控和更新，这通常涉及Kubernetes等适用于边缘设备的平台（K3s、MicroK8s）或Ultralytics HUB 等专门的MLOps平台。
• 安全性：虽然边缘处理可以提高数据隐私性，但边缘设备本身也会带来新的安全漏洞，需要通过安全启动、加密通信和访问控制来谨慎管理。您可以阅读有关安全最佳实践的更多信息。