无服务器计算

了解无服务器架构

在无服务器设置中，应用程序通常被结构化为由特定事件触发的独立功能集合。这种模式通常被称为功能即服务（FaaS）。事件可包括 HTTP 请求（如 API 调用）、数据库更改、文件上传到云存储或来自队列系统的消息。事件发生时，云提供商会自动分配运行相应功能所需的计算资源。一旦执行完成，这些资源就会缩减，如果没有待处理请求，通常会缩减为零。这种事件驱动的自动缩放方法与服务器持续运行的传统架构大不相同，后者可能导致资源闲置和运营成本上升。它非常符合许多人工智能用例的可变需求。

人工智能和 ML 的优势

无服务器计算为人工智能和 ML 工作负载提供了令人信服的优势，因为这些负载的计算需求经常是变化的：

• 自动可扩展性：无缝处理不可预测的负载。例如，提供预测服务的推理引擎可能会遇到请求突然激增的情况。无服务器平台会自动向上或向下扩展功能实例以满足需求，无需人工干预，从而确保性能的一致性。这对于需要实时推理的应用来说至关重要。
• 成本效益：按使用付费。通常只按功能实际消耗的计算时间计费，精确到毫秒。这就消除了与闲置服务器容量相关的成本，对于定期模型培训或不频繁的数据处理工作等任务而言，非常经济。探索规模经济效益。
• 更快的开发周期：简化基础设施管理。开发人员可以专注于为数据预处理、特征提取或运行预测逻辑等特定任务编写代码。这加快了开发和部署速度，有利于更快地尝试不同的模型或超参数调整策略Ultralytics 指南）。
• 简化操作：减少运营开销。修补操作系统、管理服务器容量和确保高可用性等任务均由云提供商处理，从而为核心 ML 任务腾出资源。了解有关机器学习运营 (MLOps) 的更多信息。

人工智能/移动语言的实际应用

无服务器架构非常适合各种人工智能/人工智能任务：

1. 图像和视频分析：考虑在用户上传的图像上使用 Ultralytics YOLO模型对用户上传的图片进行对象检测。向云存储（如亚马逊 S3 Google 存储）上传事件会触发一个无服务器函数。该函数加载图像，运行YOLO 模型进行检测，可能执行图像分割，并将结果（如边界框、类标签）存储到数据库中或通过 API 返回。该系统可根据上传数量自动扩展，无需预先配置服务器。这种模式适用于从内容管理到医学图像分析等各种应用。更多示例请参见Ultralytics 解决方案。
2. 聊天机器人后端：许多由大型语言模型（LLM）驱动的聊天机器人使用无服务器功能来处理传入的用户消息。每条消息都会触发一个函数，该函数会处理文本、与 LLM API（如GPT-4）交互、执行必要的操作（如通过向量搜索查找数据库）并发回响应。按请求付费模式非常适合使用模式不稳定的聊天机器人。探索自然语言处理（NLP）概念。

无服务器与相关概念

必须将无服务器计算与相关技术区分开来：

• 云计算与无服务器： 云计算是通过互联网广泛提供计算服务。无服务器是云计算中的一种特定执行模式，强调自动资源管理和事件驱动功能（FaaS），完全抽象了服务器管理。基础设施即服务（IaaS）等其他云计算模式仍需要用户管理虚拟机。
• 容器化与无服务器： Docker等容器化工具将应用程序及其依赖关系打包。Kubernetes等协调平台可自动部署、扩展和管理这些容器。虽然与管理裸机或虚拟机相比，Kubernetes 减轻了操作负担，但您仍需管理底层集群基础设施。无服务器平台完全抽象了这一层；你只需管理功能代码。了解如何将Docker 与Ultralytics结合使用。
• 边缘计算与无服务器： 边缘计算涉及在数据源（"边缘"）附近的设备上本地处理数据，以减少延迟和带宽使用。无服务器计算通常在集中式云数据中心运行功能。边缘人工智能设备（如在NVIDIA Jetson 上运行的设备）可以执行初始处理或过滤，然后触发云中的无服务器功能进行更复杂的分析或汇总。阅读有关人工智能驱动的安防摄像头的信息，这些摄像头通常结合了边缘和云处理功能。

领先的无服务器平台包括AWS Lambda、Google Cloud Functions 和Azure Functions。这些服务提供了有效构建和运行无服务器 AI/ML 应用程序所需的基础架构，通常与其他云服务集成，用于存储、数据库和消息传递。Ultralytics HUB等平台可以进一步简化各种架构中模型的部署和管理，包括无服务器设置（查看 HUB 文档）。