Yeşil çek
Panoya kopyalanan bağlantı

Ultralytics YOLO11 NVIDIA adresinde Jetson Orin Nano Super: hızlı ve verimli

Ultralytics YOLO11 adresini NVIDIA Jetson Orin Nano Super üzerinde dağıtmanın gelişmiş yapay zeka uygulamaları için nasıl etkileyici kıyaslamalar ve GPU hızlandırılmış performans sunduğunu keşfedin.

17 Aralık 2024'te piyasaya sürülen NVIDIA Jetson Orin Nano Super Developer Kit, uç bilişime gelişmiş yetenekler kazandırmak için tasarlanmış kompakt ama güçlü bir üretken yapay zeka süper bilgisayarıdır. Gerçek zamanlı işlemeyi kolaylaştırır ve bulut bilişim ihtiyacını ortadan kaldırır. NVIDIA Jetson Orin Nano Super, geliştiricilerin yerel ortamlarda verimli bir şekilde çalışan uygun fiyatlı akıllı sistemler oluşturmasına olanak tanır.

Ultralytics YOLO gibi modellerle eşleştirildiğinde Ultralytics YOLO11Jetson Orin Nano Super, uçta çok çeşitli Vision AI uygulamalarının üstesinden gelebilir. Özellikle, YOLO11 nesne algılama, nesne izleme ve örnek segmentasyonu gibi görevlerde hızı ve doğruluğu ile bilinen bir bilgisayarla görme modelidir. 

YOLO11'un yeteneklerini kitin sağlam GPU (Grafik İşlem Birimi) ve PyTorch, ONNX ve NVIDIA TensorRT gibi çerçeveler için destek ile birleştirmek yüksek performanslı dağıtımlar sağlar. Bu kombinasyon, geliştiricilere robotikte nesne algılamadan akıllı alanlarda ve perakende sistemlerinde gerçek zamanlı nesne takibine kadar yapay zeka uygulamaları oluşturmak için verimli bir çözüm sunar.

Bu makalede, NVIDIA Jetson Orin Nano Super Developer Kit'i, uç yapay zeka için Ultralytics YOLO11 ile nasıl çalıştığını, performans kıyaslamalarını, gerçek dünya uygulamalarını ve geliştiricilerin Vision AI projeleri oluşturmalarına nasıl yardımcı olabileceğini inceleyeceğiz. Hadi başlayalım!

NVIDIA Jetson Orin Nano Süper Geliştirici Kiti nedir?

NVIDIA Jetson Orin Nano Super Developer Kit, küçük uç cihazlar için üretken yapay zekayı yeniden tanımlayan kompakt ancak güçlü bir bilgisayardır. 67 TOPS'a (saniyede trilyonlarca işlem) kadar yapay zeka performansı sunarak gelişmiş yapay zeka projeleri üzerinde çalışan geliştiriciler, öğrenciler ve hobiciler için idealdir.

Şekil 1. NVIDIA Jetson Orin Nano Super'e genel bir bakış.

İşte temel özelliklerinden bazıları:

  • GPU performansa sahiptir: Cihaz, 1.024 CUDA çekirdeği ve 32 Tensor Çekirdeği içeren NVIDIA Ampere mimarisi GPU üzerine inşa edilmiştir. CUDA çekirdekleri birçok görevi aynı anda işleyerek karmaşık hesaplamaları hızlandırırken, Tensor Çekirdekleri derin öğrenme gibi yapay zeka görevleri için özelleştirilmiştir. 
  • Güçlü CPU: Hız ve verimliliği dengelemek için tasarlanmış 6 çekirdekli Arm Cortex-A78AE işlemciye sahiptir. Cihaz, enerji kullanımını düşük tutarken birden fazla görevi sorunsuzca yerine getirebilir. Bu, büyük güç kaynaklarına erişimi olmayan yerel olarak çalışan sistemler için önemlidir.
  • Verimli bellek: Kit, 8GB LPDDR5 (Düşük Güç Çift Veri Hızı 5) bellek ile birlikte gelir. LPDDR5, hız ve enerji verimliliği için optimize edilmiş bir RAM (Rastgele Erişimli Bellek) türüdür ve cihazın büyük veri kümelerini ve gerçek zamanlı işlemleri aşırı güç tüketmeden gerçekleştirmesini sağlar.
  • Bağlantı seçenekleri: Hızlı veri aktarımları için USB 3.2 bağlantı noktaları, güçlü ağ bağlantıları için bir Gigabit Ethernet bağlantı noktası ve sensör veya kameraları entegre etmek için kamera arayüzleri içerir. 
  • Yapay zeka geliştirme araçları: Jetson Orin Nano Super, daha hızlı hesaplama için CUDA gibi araçlar sağlayan NVIDIA JetPack SDK ile çalışır ve TensorRT AI modellerini optimize etmek için. Bu araçlar, geliştiricilerin yapay zeka uygulamalarını hızlı ve verimli bir şekilde oluşturmasını ve dağıtmasını kolaylaştırır.

Performans kıyaslamaları: Jetson Orin Nano Super Vs. Orin NX 16GB

NVIDIA'un çalışmalarına aşina iseniz, bu yeni sürümün mevcut NVIDIA Jetson Orin NX 16GB (süper mod olmadan) ile nasıl karşılaştırıldığını merak ediyor olabilirsiniz. Jetson Orin NX daha yüksek genel yetenekler sunarken, Jetson Orin Nano Süper Geliştirici Kiti maliyetinin çok altında etkileyici bir performans sağlıyor. 

Şekil 2. NVIDIA Jetson Orin ekosistemine bir bakış.

İşte hızlı bir genel bakış:

  • Yapay zeka performansı: Jetson Orin Nano Super, çoğu uç yapay zeka görevi için harika olan 67 TOPS'a kadar sunarken, Jetson Orin NX daha zorlu uygulamalar için 100 TOPS'a kadar sunar.
  • Bellek: Jetson Orin Nano Super, gerçek zamanlı görevler için yeterli olan 8GB LPDDR5 içerirken, Orin NX daha büyük iş yükleri için bunu iki katına çıkararak 16GB'a çıkarır.
  • Güç verimliliği: Jetson Orin Nano Super, Jetson Orin NX'in daha yüksek güç taleplerine kıyasla daha enerji tasarrufludur ve 7W ile 25W arasında yapılandırılabilir.
  • GPU: Her ikisi de sağlam GPU performansı için 1.024 CUDA çekirdeği ve 32 Tensor Çekirdeği ile NVIDIA Ampere mimarisini paylaşmaktadır.

YOLO11 Jetson Orin Nano Super ile: Yapay zekayı uç noktalara taşıyoruz

Artık Jetson Orin Nano Super'i daha iyi anladığımıza göre, Vision AI yeteneklerini uç noktalara taşımak için YOLO11 adresinin nasıl devreye girebileceğine bir göz atalım. Ultralytics YOLO modelleri, YOLO11 dahil olmak üzere, eğitme, tahmin etme ve dışa aktarma gibi çok yönlü modlarla birlikte gelir ve onları çeşitli AI iş akışlarına uyarlanabilir hale getirir. 

Örneğin, eğitim modunda, Ultralytics YOLO modelleri, benzersiz nesneleri tespit etmek veya belirli ortamlar için optimize etmek gibi belirli uygulamalar için özel veri kümeleri üzerinde ince ayar yapılabilir ve eğitilebilir. Benzer şekilde, tahmin modu, gerçek zamanlı bilgisayarla görme görevlerine olanak tanıyan çıkarım için tasarlanmıştır. Son olarak, dışa aktarma modu modelleri dağıtım için optimize edilmiş formatlara dönüştürmek için kullanılabilir.

Şekil 3. Ultralytics YOLO modelleri çeşitli özellikleri ve modları destekler.

YOLO11 dışa aktarma modunda, diğerleri de dahil olmak üzere bir dizi model dağıtım seçeneğini destekler:

  • NVIDIA TensorRT: Bu format NVIDIA GPU'ları için optimize edilmiştir ve Jetson Orin Nano Super üzerinde yüksek performans ve düşük gecikmeli çıkarım sunar.
  • ONNX (Açık Sinir Ağı Değişimi): Çeşitli platformlar arasında uyumluluk sağlayarak farklı donanım ve yazılım ekosistemleri için çok yönlü hale getirir.
  • TorchScript: Bu format PyTorch tabanlı uygulamalar için idealdir ve PyTorch iş akışlarına sorunsuz entegrasyona yardımcı olur.
  • TFLite (TensorFlow Lite): Hafif yapay zeka dağıtımları için tasarlanmış bir format olup mobil ve gömülü sistemler için mükemmeldir.

Geliştiriciler bu dağıtım biçimlerini kullanarak akıllı alanlar, robotik ve perakende otomasyonu gibi gerçek zamanlı uygulamalar için YOLO11 adresini çalıştırmak üzere Jetson Orin Nano Super'in donanımından tam olarak yararlanabilirler. 

NVIDIA Jetson Orin Nano Super üzerinde YOLO11 kıyaslaması

Daha sonra, YOLO11 'un NVIDIA Jetson Orin Nano Super üzerinde ne kadar hızlı çalışabileceği hakkında daha iyi bir fikir edinmek için, GPU- PyTorch, ONNX ve TensorRT gibi hızlandırılmış dışa aktarma formatlarını kullanarak etkileyici performansını ve kıyaslamalarını inceleyelim. Bu testler, Jetson Orin Nano Super'in YOLO11 modelleri ile mevcut Jetson Orin NX 16GB (süper mod olmadan) ile karşılaştırılabilir ve zaman zaman aşan çıkarım sürelerine ulaştığını ortaya koymaktadır.

Şekil 4. Benchmarking YOLO11 NVIDIA Jetson Orin Nano Super üzerinde.

Bunu daha da dikkat çekici kılan, Jetson Orin Nano Super'in uygun fiyatlı olmasıdır. Jetson Orin NX 16GB'ın yarı fiyatından daha düşük bir fiyata böyle bir performans sunan bu ürün, yüksek performanslı YOLO11 uygulamaları geliştirenler için olağanüstü bir değer sağlıyor. Bu maliyet ve performans kombinasyonu, Jetson Orin Nano Super'i uçta gerçek zamanlı Vision AI görevleri için mükemmel bir seçim haline getiriyor.

Şekil 5. Jetson Orin NX 16GB üzerinde YOLO11 kıyaslama.

YOLO11 ve NVIDIA Jetson Orin Nano Super ile uygulamalı olarak tanışın

Jetson Orin Nano Super'de YOLO11 'u kullanmaya başlamak için heyecanlıysanız, iyi haberlerimiz var - bu basit bir süreçtir. Cihazınızı NVIDIA JetPack SDK ile flaşladıktan sonra, hızlı kurulum için önceden oluşturulmuş bir Docker görüntüsü kullanabilir veya gerekli paketleri manuel olarak yükleyebilirsiniz. 

Daha hızlı ve sorunsuz bir entegrasyon arayanlar için güncellenmiş JetPack 6 Docker konteyneri ideal çözümdür. Docker konteyneri, belirli bir yazılımı çalıştırmak için gerekli tüm araçları ve bağımlılıkları içeren hafif, taşınabilir bir ortamdır. 

JetPack 6.1 için optimize edilen Ultralytics konteyneri, CUDA 12.6, TensorRT 10.3 ve hepsi Jetson'un ARM64 mimarisi için uyarlanmış PyTorch ve TorchVision gibi temel araçlarla önceden yüklenmiş olarak gelir. Geliştiriciler bu konteyneri kullanarak kurulumda zaman kazanabilir ve YOLO11 ile Vision AI uygulamalarını oluşturmaya ve optimize etmeye odaklanabilirler.

YOLO11 'un NVIDIA Jetson Orin Nano Super üzerindeki uygulamaları

Bir sonraki yapay zeka projeniz için ilham arayanlar için, etrafımızda uç tabanlı bilgisayarla görme uygulamaları için potansiyel var. 

Günlük yaşamda uç yapay zeka, sistemlerin bulut işlemeye ihtiyaç duymadan nesneleri gerçek zamanlı olarak algılamasını ve izlemesini sağlayarak akıllı alanları yeniden tanımlıyor. İster kalabalık bir şehirdeki trafiği izlemek ister kamusal alanlardaki olağandışı faaliyetleri tespit etmek olsun, edge Vision AI güvenliği ve verimliliği artırıyor.

Perakendeciler de uç yapay zeka ve bilgisayarla görmeden faydalanıyor. Otomatik envanter kontrollerinden hırsızlığı önlemeye kadar YOLO11 gibi modeller, işletmelerin gerçek zamanlı çözümleri doğrudan mağazalara yerleştirmesini mümkün kılıyor. 

Benzer şekilde, sağlık hizmetlerinde yapay zeka söz konusu olduğunda, uç tabanlı izleme, bulut bağımlılığının neden olduğu gecikmeler olmadan hasta güvenliğini sağlar, anormallikleri tespit eder ve uyumluluğu korur. Jetson Orin Nano Super ve YOLO11 gibi araçlarla Vision AI'nın geleceği, en çok ihtiyaç duyulan yerde, uçta ortaya çıkıyor.

Önemli çıkarımlar

YOLO11 gibi Ultralytics YOLO modellerini NVIDIA Jetson Orin Nano Super Developer Kit'e dağıtmak, uç yapay zeka uygulamaları için güvenilir ve verimli bir çözüm sunar. Sağlam GPU performansı, PyTorch, ONNX ve TensorRT için sorunsuz destek ve etkileyici kıyaslamalarla, nesne algılama ve izleme gibi gerçek zamanlı bilgisayarla görme görevleri için çok uygundur. 

Vision AI ve donanım hızlandırma gibi en son teknolojilerdeki yenilikler ve işbirlikleri, çalışma şeklimizi dönüştürüyor ve geliştiricilere uçta ölçeklenebilir, yüksek performanslı çözümler oluşturma gücü veriyor. Yapay zeka ilerledikçe, YOLO11 ve Jetson Orin Nano Super gibi araçlar akıllı, gerçek zamanlı çözümleri hayata geçirmeyi her zamankinden daha kolay hale getiriyor.

Yapay zekayı merak mı ediyorsunuz? Katkılarımızı keşfetmek ve topluluğumuzla etkileşim kurmak için GitHub depomuzu ziyaret edin. Tarım ve sağlık gibi sektörlerde etki yaratmak için yapay zekayı nasıl kullandığımızı görün.

Facebook logosuTwitter logosuLinkedIn logosuKopya-bağlantı sembolü

Bu kategoride daha fazlasını okuyun

Yapay zekanın gelecekteki
adresini birlikte inşa edelim!

Makine öğreniminin geleceği ile yolculuğunuza başlayın