Verimli Edge AI, AI hızlandırma ve gerçek zamanlı nesne algılama için RKNN Toolkit kullanarak Ultralytics YOLO11 'i Rockchip'e nasıl dağıtacağınızı keşfedin.
Yapay zeka topluluğunda son zamanlarda moda olan bir kelime, özellikle bilgisayarla görme söz konusu olduğunda uç yapay zekadır. Yapay zeka odaklı uygulamalar arttıkça, sınırlı güç ve bilgi işlem kaynaklarına sahip gömülü cihazlarda modellerin verimli bir şekilde çalıştırılmasına daha fazla ihtiyaç duyulmaktadır.
Örneğin, dronlar gerçek zamanlı navigasyon için Vision AI kullanıyor, akıllı kameralar nesneleri anında tespit ediyor ve endüstriyel otomasyon sistemleri bulut bilişime güvenmeden kalite kontrolü gerçekleştiriyor. Bu uygulamalar, gerçek zamanlı performans ve düşük gecikme süresi sağlamak için doğrudan uç cihazlarda hızlı ve verimli yapay zeka işlemesi gerektirir. Ancak YZ modellerini uç cihazlarda çalıştırmak her zaman kolay değildir. YZ modelleri genellikle birçok uç cihazın kaldırabileceğinden daha fazla güç ve bellek gerektirir.
Rockchip'in RKNN Toolkit'i, Rockchip destekli cihazlar için derin öğrenme modellerini optimize ederek bu sorunu çözmeye yardımcı olur. Çıkarsamayı hızlandırmak için özel Sinir İşleme Birimleri (NPU'lar) kullanır, CPU veya GPU işlemeye kıyasla gecikmeyi ve güç tüketimini azaltır.
Vizyon Yapay Zeka topluluğu Ultralytics YOLO11 Rockchip tabanlı cihazlarda ve sizi duyduk. YOLO11 ' i RKNN model formatına aktarmak için destek ekledik. Bu makalede, RKNN'ye dışa aktarmanın nasıl çalıştığını ve YOLO11 'i Rockchip destekli cihazlara dağıtmanın neden oyunun kurallarını değiştirdiğini inceleyeceğiz.
Rockchip, birçok gömülü cihazı çalıştıran küçük ama güçlü işlemciler olan yonga üzerinde sistemler (SoC'ler) tasarlayan bir şirkettir. Bu çipler, genel bilgi işlem görevlerinden nesne algılama ve görüntü işlemeye dayanan Vision AI uygulamalarına kadar her şeyi ele almak için bir CPU, GPU ve bir Sinir İşleme Birimi'ni (NPU) birleştirir.
Rockchip SoC'ler, tek kartlı bilgisayarlar (SBC'ler), geliştirme kartları, endüstriyel yapay zeka sistemleri ve akıllı kameralar dahil olmak üzere çeşitli cihazlarda kullanılmaktadır. Radxa, ASUS, Pine64, Orange Pi, Odroid, Khadas ve Banana Pi gibi birçok tanınmış donanım üreticisi, Rockchip SoC'ler tarafından desteklenen cihazlar üretmektedir. Bu kartlar, performans, güç verimliliği ve uygun fiyat dengesi sundukları için uç yapay zeka ve bilgisayarla görme uygulamaları için popülerdir.
Yapay zeka modellerinin bu cihazlarda verimli bir şekilde çalışmasına yardımcı olmak için Rockchip, RKNN (Rockchip Neural Network) Toolkit'i sunmaktadır. Geliştiricilerin derin öğrenme modellerini Rockchip'in Sinir İşleme Birimlerini (NPU) kullanacak şekilde dönüştürmelerine ve optimize etmelerine olanak tanır.
RKNN modelleri düşük gecikmeli çıkarım ve verimli güç kullanımı için optimize edilmiştir. Geliştiriciler, modelleri RKNN'ye dönüştürerek Rockchip destekli cihazlarda daha yüksek işlem hızları, daha az güç tüketimi ve daha fazla verimlilik elde edebilirler.
RKNN modellerinin Rockchip özellikli cihazlarda yapay zeka performansını nasıl artırdığına daha yakından bakalım.
Çok çeşitli bilgi işlem görevlerini yerine getiren CPU ve GPU'ların aksine, Rockchip'in NPU'ları özellikle derin öğrenme için tasarlanmıştır. Yapay zeka modellerini RKNN formatına dönüştürerek, geliştiriciler çıkarımları doğrudan NPU üzerinde çalıştırabilir. Bu, RKNN modellerini özellikle hızlı ve verimli işlemenin gerekli olduğu gerçek zamanlı bilgisayarla görme görevleri için kullanışlı hale getirir.
NPU'lar, yapay zeka görevleri için CPU'lardan ve GPU'lardan daha hızlı ve daha verimlidir çünkü sinir ağı hesaplamalarını paralel olarak işlemek üzere tasarlanmıştır. CPU'lar görevleri her seferinde bir adım işlerken ve GPU'lar iş yüklerini birden fazla çekirdeğe dağıtırken, NPU'lar yapay zekaya özgü hesaplamaları daha verimli bir şekilde gerçekleştirmek için optimize edilmiştir.
Sonuç olarak, RKNN modelleri daha hızlı çalışır ve daha az güç kullanır, bu da onları pille çalışan cihazlar, akıllı kameralar, endüstriyel otomasyon ve gerçek zamanlı karar verme gerektiren diğer uç yapay zeka uygulamaları için ideal hale getirir.
Ultralytics YOLO (You Only Look Once) modelleri, nesne algılama, örnek segmentasyonu ve görüntü sınıflandırma gibi gerçek zamanlı bilgisayarla görme görevleri için tasarlanmıştır. Hızları, doğrulukları ve verimlilikleri ile bilinirler ve tarım, üretim, sağlık hizmetleri ve otonom sistemler gibi sektörlerde yaygın olarak kullanılırlar.
Bu modeller zaman içinde önemli ölçüde gelişmiştir. Örneğin, Ultralytics YOLOv5PyTorch ile nesne algılamayı daha kolay hale getirdi. Sonra, Ultralytics YOLOv8 poz tahmini ve görüntü sınıflandırma gibi yeni özellikler ekledi. Şimdi, YOLO11 daha az kaynak kullanırken doğruluğu artırarak işleri daha da ileri götürüyor. Aslında YOLO11m, COCO veri setinde YOLOv8m'ye göre %22 daha az parametre kullanarak daha iyi performans gösteriyor ve bu da onu hem daha hassas hem de daha verimli hale getiriyor.
Ultralytics YOLO modelleri, farklı platformlarda esnek dağıtıma izin veren çoklu formatlara aktarımı da destekler. Bu formatlar arasında ONNX, TensorRT, CoreML ve OpenVINO yer alır ve geliştiricilere hedef donanımlarına göre performansı optimize etme özgürlüğü verir.
YOLO11 'in RKNN model formatına aktarılması için eklenen destek ile YOLO11 artık Rockchip'in NPU'larından yararlanabiliyor. RKNN formatındaki en küçük model olan YOLO11n, görüntü başına 99,5 ms'lik etkileyici bir çıkarım süresine ulaşarak gömülü cihazlarda bile gerçek zamanlı işlemeye olanak tanır.
Şu anda, YOLO11 nesne algılama modelleri RKNN formatına aktarılabilmektedir. Ayrıca, bizi izlemeye devam edin - gelecekteki güncellemelerde diğer bilgisayarla görme görevleri ve INT8 niceleme için destek eklemek için çalışıyoruz.
YOLO11 'i RKNN formatına aktarmak basit bir işlemdir. Özel eğitimli YOLO11 modelinizi yükleyebilir, hedef Rockchip platformunu belirleyebilir ve birkaç satır kodla RKNN formatına dönüştürebilirsiniz. RKNN formatı, RK3588, RK3566 ve RK3576 dahil olmak üzere çeşitli Rockchip SoC'lerle uyumludur ve geniş donanım desteği sağlar.
Dışa aktarıldıktan sonra, RKNN modeli Rockchip tabanlı cihazlara dağıtılabilir. Modeli dağıtmak için, dışa aktarılan RKNN dosyasını Rockchip cihazınıza yüklemeniz ve yeni görüntüleri veya videoları analiz etmek ve nesneleri gerçek zamanlı olarak tespit etmek için eğitilmiş AI modelini kullanma süreci olan çıkarımı çalıştırmanız yeterlidir. Sadece birkaç satır kodla, görüntülerden veya video akışlarından nesneleri tanımlamaya başlayabilirsiniz.
YOLO11 'in Rockchip özellikli cihazlarda gerçek dünyada nerelerde kullanılabileceği hakkında daha iyi bir fikir edinmek için bazı önemli uç yapay zeka uygulamalarını inceleyelim.
Rockchip işlemciler Android tabletlerde, geliştirme kartlarında ve endüstriyel yapay zeka sistemlerinde yaygın olarak kullanılmaktadır. Android, Linux ve Python desteği ile çeşitli sektörler için Vision AI odaklı çözümleri kolayca oluşturabilir ve dağıtabilirsiniz.
Rockchip destekli cihazlarda YOLO11 çalıştırmayı içeren yaygın bir uygulama sağlam tabletlerdir. Bunlar depolar, şantiyeler ve endüstriyel ortamlar gibi zorlu ortamlar için tasarlanmış dayanıklı, yüksek performanslı tabletlerdir. Bu tabletler, verimliliği ve güvenliği artırmak için nesne algılamadan yararlanabilir.
Örneğin, depo lojistiğinde, çalışanlar envanteri otomatik olarak taramak ve tespit etmek için YOLO11 'li Rockchip destekli bir tablet kullanarak insan hatasını azaltabilir ve işlem sürelerini hızlandırabilir. Benzer şekilde, şantiyelerde bu tabletler, işçilerin kask ve yelek gibi gerekli güvenlik ekipmanlarını giyip giymediğini tespit etmek için kullanılabilir ve şirketlerin düzenlemeleri uygulamasına ve kazaları önlemesine yardımcı olur.
Üretim ve otomasyonla ilgili olarak, Rockchip destekli endüstriyel kartlar kalite kontrol ve süreç izlemede büyük rol oynayabilir. Endüstriyel kart, endüstriyel ortamlardaki gömülü sistemler için tasarlanmış kompakt, yüksek performanslı bir bilgi işlem modülüdür. Bu kartlar tipik olarak sensörler, kameralar ve otomatik makinelerle entegre olabilen işlemciler, bellek, I/O arayüzleri ve bağlantı seçenekleri içerir.
YOLO11 modellerinin bu kartlar üzerinde çalıştırılması, üretim hatlarının gerçek zamanlı olarak analiz edilmesini, sorunların anında tespit edilmesini ve verimliliğin artırılmasını mümkün kılıyor. Örneğin, otomobil üretiminde Rockchip donanımı ve YOLO11 kullanan bir yapay zeka sistemi, otomobiller montaj hattında ilerlerken çizikleri, yanlış hizalanmış parçaları veya boya kusurlarını tespit edebilir. Üreticiler bu kusurları gerçek zamanlı olarak tespit ederek israfı azaltabilir, üretim maliyetlerini düşürebilir ve araçlar müşterilere ulaşmadan önce daha yüksek kalite standartları sağlayabilir.
Rockchip tabanlı cihazlar iyi bir performans, maliyet ve verimlilik dengesi sunarak YOLO11 'in uç yapay zeka uygulamalarında kullanılması için mükemmel bir seçimdir.
İşte Rockchip tabanlı cihazlarda YOLO11 çalıştırmanın birkaç avantajı:
Ultralytics YOLO11 , donanım hızlandırma ve RKNN formatından yararlanarak Rockchip tabanlı cihazlarda verimli bir şekilde çalışabilir. Bu, çıkarım süresini azaltır ve performansı artırır, bu da onu gerçek zamanlı bilgisayarla görme görevleri ve uç yapay zeka uygulamaları için ideal hale getirir.
RKNN Toolkit, niceleme ve ince ayar gibi temel optimizasyon araçları sağlayarak YOLO11 modellerinin Rockchip platformlarında iyi performans göstermesini sağlar. Cihaz üzerinde verimli işleme için modellerin optimize edilmesi, uç yapay zekanın benimsenmesi arttıkça çok önemli olacaktır. Doğru araçlar ve donanım ile geliştiriciler, çeşitli sektörlerde bilgisayarla görme çözümleri için yeni olasılıkların kilidini açabilir.
Topluluğumuza katılın ve yapay zeka hakkında daha fazla bilgi edinmek için GitHub depomuzu keşfedin. Çözüm sayfalarımızı ziyaret ederek tarımda bilgisayarla görmenin ve sağlık hizmetlerinde yapay zekanın inovasyonu nasıl desteklediğini görün. Ayrıca, Vision AI çözümlerinizi bugün oluşturmaya başlamak için lisanslama seçeneklerimize göz atın!
Makine öğreniminin geleceği ile yolculuğunuza başlayın
