边缘计算

边缘计算为何对人工智能/移动计算至关重要

边缘计算在人工智能（AI）和 ML 领域，尤其是计算机视觉（CV）任务方面的影响尤为显著。许多人工智能应用需要立即处理传感器数据（如图像或视频流），以便及时做出决策。将大量数据发送到云端会带来延迟（时延），这是实时推理场景无法接受的。边缘计算通过启用 ML 模型来解决这一问题，例如 Ultralytics YOLO对象检测模型，直接在数据源上或数据源附近运行。这大大缩短了响应时间，节省了网络带宽，并通过保持敏感信息的本地化来提高数据的私密性。GPU等强大而高效的硬件以及专为边缘设备设计的TPU等专用加速器的发展进一步推动了这一趋势。您可以了解有关在边缘人工智能设备上部署计算机视觉应用的更多信息。

真实世界的人工智能/移动语言应用

边缘计算可支持广泛的人工智能/移动语言创新应用：

1. 自动驾驶汽车：汽车利用边缘计算实时处理来自摄像头、激光雷达和其他传感器的数据。这样就可以立即进行物体检测、路径规划和避免碰撞，而无需依赖可能较慢或不可用的云连接。了解更多有关汽车人工智能解决方案的信息。
2. 工业物联网和智能制造：工厂部署边缘设备，利用计算机视觉监控机器，进行质量检测或预测性维护。在本地分析传感器数据可实现即时警报和调整，从而提高效率和安全性。了解制造业中的人工智能。
3. 智能零售：边缘设备可分析店内的摄像头画面，用于货架监控、顾客行为分析或排队管理，在不传输大量视频画面的情况下优化运营。了解如何利用人工智能实现更智能的零售库存管理。
4. 医疗监控：可穿戴设备和床边监视器可利用边缘计算对生命体征进行本地分析，在出现危急情况时立即发出警报，从而加强对病人的护理。

边缘计算与相关术语

• 云计算：主要区别在于计算地点。云计算依赖于集中式远程数据中心，可提供巨大的可扩展性和存储空间，是训练大型 ML 模型或批量处理的理想选择。边缘计算侧重于分散的本地处理，以满足低延迟和实时需求。通常采用混合方法，即在云中训练模型，然后部署到边缘进行推理。了解使用Ultralytics HUB 在云中训练模型的选项。
• 边缘人工智能：虽然两者密切相关，但边缘人工智能特指直接在边缘设备上执行人工智能算法和 ML 模型。边缘计算提供更广泛的基础设施（硬件、网络、处理能力），使边缘人工智能成为可能。将边缘计算视为舞台，而边缘人工智能则是舞台上的表演。了解更多有关边缘人工智能和边缘计算如何为实时智能提供动力的信息。
• 雾计算：雾计算经常与边缘计算交替使用，通常是指位于极端边缘（设备）和集中云之间的计算资源层，充当中间处理中心。边缘计算通常被认为是一个更广泛的概念，包括中央云以外的任何地方的计算。

辅助技术

在边缘有效部署 ML 模型通常需要特定的硬件和软件优化。

• 硬件：设备包括从Raspberry Pi等低功耗微控制器和片上系统 (SoC) 到NVIDIA Jetson板卡等功能更强大的嵌入式系统（配备专门的人工智能加速器）。请参阅在NVIDIA Jetson或树莓派 上部署的指南。
• 软件/框架：量化和剪枝等模型优化技术，以及优化推理引擎，如Intel的OpenVINO或 NVIDIA TensorRT等优化推理引擎，对于在资源有限的边缘硬件上高效运行复杂模型至关重要。了解Ultralytics 与OpenVINO和 TensorRT.有多种模型部署选项可促进这一过程。

边缘计算是释放各行各业实时人工智能和 ML 潜力的基础，可直接在最需要的地方实现更快、更高效、更私密的智能应用。