Sözlük

Gerçek Zamanlı Çıkarım

Ultralytics YOLO ile gerçek zamanlı çıkarımın otonom sürüş ve güvenlik sistemleri gibi yapay zeka uygulamaları için nasıl anlık tahminler sağladığını keşfedin.

Gerçek zamanlı çıkarım, yeni, canlı veriler üzerinde minimum gecikmeyle tahminler yapmak için eğitimli bir makine öğrenimi (ML) modelinin kullanılması sürecidir. Yapay zeka ve bilgisayarla görme (CV) bağlamında bu, sistemin bir video akışı gibi bilgileri işleyebileceği ve neredeyse anında bir çıktı üretebileceği anlamına gelir. Amaç, çıkarım gecikmesini, sonuçların karar verme için hemen yararlı olmasını sağlayacak kadar düşük hale getirmektir. Bu yetenek, zamanlamanın kritik olduğu uygulamalar için çok önemlidir ve otomotivden sağlık hizmetlerine kadar sektörlerin yapay zekadan yararlanma biçimini dönüştürür.

Gerçek Zamanlı Çıkarım Vs. Toplu Çıkarım

Gerçek zamanlı çıkarımı toplu çıkarımdan ayırmak önemlidir. Temel fark, verilerin nasıl işlendiğinde yatmaktadır.

  • Gerçek Zamanlı Çıkarım: Verileri üretildiklerinde veya alındıklarında, tipik olarak bir seferde bir girdi veya küçük bir akış olarak işler. Öncelik, girdi ve çıktı arasındaki gecikmeyi(latency) en aza indirmektir. Bu, etkileşimli ve zamana duyarlı sistemler için gereklidir.
  • Toplu Çıkarım: Verilerin belirli bir süre boyunca toplanmasını ve büyük bir yığın halinde tek seferde işlenmesini içerir. Bu yaklaşım, gecikmeyi en aza indirmek yerine verimi (zaman içinde işlenen veri miktarı) en üst düzeye çıkarmaya öncelik verir. Toplu işleme, günlük rapor oluşturma veya büyük veri kümelerinin periyodik analizi gibi acil olmayan görevler için uygundur.

Her ikisi de tahminlerde bulunmak için eğitimli bir model kullansa da, sonuçların aciliyetine bağlı olarak kullanım durumları temelde farklıdır.

Gerçek Dünyadaki Uygulamalar

Anında karar verme yeteneği, çeşitli sektörlerde geniş bir yelpazede güçlü uygulamalara olanak tanır.

  1. Otonom Sistemler: Sürücüsüz araçlarda gerçek zamanlı çıkarım bir güvenlik meselesidir. Modeller, güvenli bir şekilde seyretmek ve çarpışmalardan kaçınmak için yayaları, diğer araçları ve yol işaretlerini milisaniyeler içinde tanımlamak üzere nesne algılama gerçekleştirmelidir. Benzer şekilde, dronlar ve robotlar da navigasyon ve çevreleriyle etkileşim için buna güvenir.
  2. Akıllı Üretim: Bir üretim hattında, yapay zeka ile donatılmış kameralar gerçek zamanlı kalite kontrolü gerçekleştirebilir. Ultralytics YOLO11 gibi bir model, bir konveyör bant üzerinde hareket eden ürünlerdeki kusurları tespit ederek bunların derhal giderilmesini sağlayabilir. Bu, üretimde modern yapay zekanın temel bir bileşenidir.
  3. İnteraktif Sağlık Hizmetleri: Bir cerrahi prosedür sırasında bir model, cerraha gerçek zamanlı rehberlik sağlamak için bir kameradan alınan canlı videoyu analiz edebilir. Teşhis ortamlarında, gerçek zamanlı tıbbi görüntü analizi doktorların canlı taramalar sırasında anomalileri daha hızlı tespit etmesine yardımcı olabilir.
  4. Akıllı Gözetim: Modern güvenlik sistemleri, video akışlarını analiz etmek ve yetkisiz giriş veya terk edilmiş paketler gibi potansiyel tehditleri tespit ederek anında uyarıları tetiklemek için gerçek zamanlı çıkarım kullanır. Bu, basit kaydın ötesine geçerek aktif, akıllı izlemeye dönüşür.

Gerçek Zamanlı Performans Elde Etme

Modellerin gerçek zamanlı hesaplama uygulamaları için yeterince hızlı çalışmasını sağlamak genellikle önemli optimizasyon gerektirir:

  • Model Optimizasyonu: Model niceleme (model ağırlıklarının hassasiyetini azaltma) ve model budama (modelin gereksiz kısımlarını kaldırma) gibi teknikler hesaplama yükünü ve bellek kullanımını azaltır.
  • Donanım Hızlandırma: Uç cihazlarda GPU'lar, TPU'lar (Tensör İşleme Birimleri) veya özel yapay zeka hızlandırıcıları (örn. NVIDIA Jetson, Google Coral Edge TPU) gibi özel donanımların kullanılması hesaplamaları önemli ölçüde hızlandırabilir. Uç bilişimin kendisi, verilerin yerel olarak minimum gecikmeyle işlenmesi için çok önemlidir.
  • Verimli Çıkarım Motorları: TensorRT, OpenVINO, ONNX Runtime gibi yazılım kütüphaneleri ve çalışma zamanları ile PyTorch veya TensorFlow gibi çerçeveler, eğitilmiş modeller için optimize edilmiş yürütme yolları sağlar. Bir çıkarım motoru, modelleri tahmin için verimli bir şekilde çalıştırmak üzere özel olarak tasarlanmıştır.

Ultralytics YOLO gibi modeller, verimlilik ve doğruluk göz önünde bulundurularak tasarlanmıştır, bu da onları gerçek zamanlı nesne algılama görevleri için çok uygun hale getirir. Ultralytics HUB gibi platformlar, modelleri eğitmek, optimize etmek (örneğin ONNX veya TensorRT formatlarına aktarmak) ve dağıtmak için araçlar sağlayarak çeşitli dağıtım seçeneklerinde gerçek zamanlı çıkarım çözümlerinin uygulanmasını kolaylaştırır.

Ultralytics topluluğuna katılın

Yapay zekanın geleceğine katılın. Küresel yenilikçilerle bağlantı kurun, işbirliği yapın ve büyüyün

Şimdi katılın
Panoya kopyalanan bağlantı