Периферийный ИИ (Edge AI)

Edge AI означает развертывание алгоритмов и моделей искусственного интеллекта (ИИ) непосредственно на локальных аппаратных устройствах, таких как смартфоны, датчики IoT, дроны и подключенные транспортные средства, а не посредством централизованных облачных вычислительных центров. Такой децентрализованный подход позволяет обрабатывать данные в месте их создания, что значительно сокращает задержку, связанную с передачей информации на удаленные серверы и обратно. Выполняя задачи машинного обучения (ML) локально, устройства могут мгновенно принимать решения, надежно работать без подключения к Интернету и повышать конфиденциальность данных, сохраняя конфиденциальную информацию на самом устройстве.

Как работает Edge AI

Суть Edge AI заключается в запуске механизма вывода на встроенной системе. Поскольку периферийные устройства, как правило, имеют ограниченный срок службы батареи и вычислительную мощность по сравнению с облачными серверами, модели искусственного интеллекта должны быть высокоэффективными. Разработчики часто используют такие методы, как квантование модели или обрезка модели, чтобы сжать большие нейронные сети без значительной потери точности.

Для эффективной обработки этих рабочих нагрузок часто используются специализированные аппаратные ускорители. Примерами могут служить платформа NVIDIA для робототехники и Google Edge TPU для низкоэнергетического вывода. Программные фреймворки также играют важную роль; такие инструменты, как TensorRT и TFLite оптимизируют модели специально для этих ограниченных сред, обеспечивая быстрое вычисление в реальном времени.

Edge AI в сравнении с Edge Computing

Хотя эти термины часто используются как взаимозаменяемые, полезно проводить между ними различие:

• Edge Computing: Это описывает более широкую физическую инфраструктуру и топологию сети, где обработка данных происходит рядом с источником данных. Это «где» в уравнении.
• Edge AI: Это относится конкретно к интеллектуальным приложениям, работающим на этой инфраструктуре. Это «что». Например, камера безопасности действует как устройство пограничного вычисления, но когда она использует компьютерное зрение (CV) для распознавания конкретного человека, она выполняет Edge AI.

Применение в реальном мире

Edge AI преобразует отрасли, обеспечивая автономное принятие решений в критических сценариях:

• Автономные транспортные средства: самоуправляемые автомобили ежедневно генерируют терабайты данных. Они не могут полагаться на облако для идентификации пешеходов или препятствий из-за задержки сигнала. Вместо этого они используют бортовой Edge AI для мгновенного обнаружения объектов, чтобы обеспечить безопасность пассажиров.
• Интеллектуальное производство: в промышленном Интернете вещей (IIoT) датчики на заводских площадях используют Edge AI для прогнозного технического обслуживания. Анализируя данные о вибрации и температуре локально, система может detect и прогнозировать отказ оборудования в режиме реального времени, предотвращая дорогостоящие простои.
• Здравоохранение: портативные медицинские устройства, оснащенные Vision AI , могут анализировать медицинские изображения или жизненно важные показатели пациентов непосредственно в месте оказания медицинской помощи, обеспечивая немедленную диагностическую поддержку в отдаленных районах с плохой связью.

Развертывание моделей на границе

Развертывание модели на периферии обычно включает в себя обучение модели в среде с высокой вычислительной мощностью, а затем экспорт ее в формат, совместимый с периферийными устройствами, например ONNX или OpenVINO. Ultralytics упрощает этот рабочий процесс, позволяя пользователям обучать и автоматически экспортировать модели для различных периферийных целей.

Следующий пример демонстрирует, как экспортировать облегченную модель YOLO26, специально разработанную для обеспечения эффективности, в формат, подходящий для мобильного и пограничного развертывания.

from ultralytics import YOLO

# Load the YOLO26 Nano model, which is optimized for speed on edge devices
model = YOLO("yolo26n.pt")

# Export the model to TFLite format for deployment on Android or Raspberry Pi
# This creates a 'yolo26n.tflite' file ready for edge inference
model.export(format="tflite")

В передовых периферийных развертываниях часто используются технологии контейнеризации, такие как Docker, для упаковки приложений, что обеспечивает их стабильную работу на различных архитектурах устройств, от устройств Raspberry Pi до промышленных шлюзов.