Edge AI

Edge AI, yapay zeka (AI) algoritmalarının ve modellerinin merkezi bulut bilişim merkezlerine bağlı olmak yerine, akıllı telefonlar, IoT sensörleri, dronlar ve bağlı araçlar gibi yerel donanım cihazlarına doğrudan yerleştirilmesini ifade eder. Bu merkezi olmayan yaklaşım, verilerin oluşturulduğu kaynakta işlenmesini sağlayarak, uzak sunuculara bilgi gönderip almada yaşanan gecikmeyi önemli ölçüde azaltır. . Makine öğrenimi (ML) görevlerini yerel olarak yürütmek suretiyle, cihazlar anlık kararlar alabilir, internet bağlantısı olmadan güvenilir bir şekilde çalışabilir ve hassas bilgileri cihazın kendisinde tutarak veri gizliliğini artırabilir. .

Edge AI Nasıl Çalışır

Edge AI'nın özü, gömülü bir sistemde bir çıkarım motoru çalıştırmayı içerir. Edge cihazları genellikle bulut sunucularına kıyasla sınırlı pil ömrü ve hesaplama gücüne sahip olduğundan, AI modelleri yüksek verimli olmalıdır. Geliştiriciler genellikle, önemli bir doğruluk kaybı olmadan büyük sinir ağlarını sıkıştırmak için model niceleme veya model budama gibi teknikler kullanır.

Bu iş yüklerini verimli bir şekilde işlemek için genellikle özel donanım hızlandırıcıları kullanılır. Örnekler arasında robotik için NVIDIA platformu ve düşük güç tüketimli çıkarım için Google Edge TPU sayılabilir. Yazılım çerçeveleri de önemli bir rol oynar; TensorRT ve TFLite , bu kısıtlı ortamlar için modelleri özel olarak optimize ederek hızlı gerçek zamanlı çıkarım sağlar.

Edge AI - Edge Computing Karşılaştırması

Bu terimler genellikle birbirinin yerine kullanılır, ancak aralarındaki farkı ayırt etmek faydalıdır:

• Kenar Bilişim: Bu, veri işlemenin veri kaynağının yakınında gerçekleştiği daha geniş fiziksel altyapı ve ağ topolojisini tanımlar. Bu, denklemin "nerede" kısmıdır.
• Edge AI: Bu, özellikle bu altyapı üzerinde çalışan akıllı uygulamaları ifade eder. Bu, "ne"dir. Örneğin, bir güvenlik kamerası bir kenar bilgi işlem cihazı olarak işlev görür, ancak bilgisayar görüşünü (CV) kullanarak belirli bir kişiyi tanıdığında, Edge AI gerçekleştirir.

Gerçek Dünya Uygulamaları

Edge AI, kritik senaryolarda otonom karar vermeyi mümkün kılarak endüstrileri dönüştürüyor:

• Otonom Araçlar: Otonom araçlar her gün terabaytlarca veri üretir. Sinyal gecikmesi nedeniyle yayaları veya engelleri tanımlamak için buluta güvenemezler. Bunun yerine, yolcu güvenliğini sağlamak için anlık nesne algılama için araç içi Edge AI kullanırlar.
• Akıllı Üretim: Endüstriyel IoT (IIoT) alanında, fabrika zeminlerindeki sensörler, öngörücü bakım için Edge AI kullanır. Titreşim ve sıcaklık verilerini yerel olarak analiz ederek sistem, detect ve ekipman arızalarını gerçek zamanlı olarak tahmin edebilir, böylece maliyetli kesintileri önleyebilir.
• Sağlık hizmetleri: VisionAI ile donatılmış taşınabilir tıbbi cihazlar, tıbbi görüntüleri veya hastanın hayati fonksiyonlarını doğrudan bakım noktasında analiz ederek, bağlantı kalitesinin düşük olduğu uzak bölgelerde anında teşhis desteği sağlayabilir.

Modelleri Uç Noktaya Dağıtma

Bir modeli uçta dağıtmak, genellikle modeli yüksek hesaplama kapasiteli bir ortamda eğitmek ve ardından onu ONNX gibi uç cihazlarla uyumlu bir biçime dışa aktarmak ONNX veya OpenVINO uç cihazlarla uyumlu bir biçime aktarılmasıdır. Ultralytics bu iş akışını basitleştirerek, kullanıcıların çeşitli uç hedefleri için modelleri eğitmelerine ve otomatik olarak dışa aktarmalarına olanak tanır.

Aşağıdaki örnek, verimlilik için özel olarak tasarlanmış hafif bir YOLO26 modelini, mobil ve uç dağıtım için uygun bir biçime nasıl dışa aktaracağınızı göstermektedir.

from ultralytics import YOLO

# Load the YOLO26 Nano model, which is optimized for speed on edge devices
model = YOLO("yolo26n.pt")

# Export the model to TFLite format for deployment on Android or Raspberry Pi
# This creates a 'yolo26n.tflite' file ready for edge inference
model.export(format="tflite")

Gelişmiş uç dağıtımları genellikle uygulamaları paketlemek için Docker gibi konteynerleştirme teknolojilerini kullanır ve Raspberry Pi birimlerinden endüstriyel ağ geçitlerine kadar farklı cihaz mimarilerinde tutarlı bir şekilde çalışmasını sağlar. Bu teknolojiler, uygulamaların tek bir platformda çalıştırılmasına olanak tanır ve