X
Ultralytics YOLOv8.2 Serbest BırakmaUltralytics YOLOv8.2 Serbest BırakmaUltralytics YOLOv8.2 Serbest Bırakma Oku
Yeşil çek
Panoya kopyalanan bağlantı

DeGirum ile Uç Cihazlarda Nicelenmiş Ultralytics YOLOv8 Modellerini Dağıtma

DeGirum ile nicelleştirilmiş YOLOv8 modellerini dağıtmayı keşfedin. Uç cihazlar için zorlukları, çözümleri ve dağıtım tekniklerini öğrenin. Geleceği bizimle şekillendirin!

Madrid'deki canlı Google for Startups Kampüsünde düzenlenen YOLO VISION 2023 (YV23) etkinliğimizden bir başka aydınlatıcı konuşmanın özetine hoş geldiniz. Bu konuşma DeGirum'un Baş Mimarı ve Kurucu Ortağı Shashi Chilappagar tarafından gerçekleştirildi. Konuşma, nicelleştirmenin ve nicelleştirilmiş modelleri kullanmanın büyüleyici dünyasına girerek temel zorlukları, çözümleri ve gelecekteki olasılıkları araştırdı.

Nicelleştirmeye Giriş ve Nicelleştirilmiş Modellerin Dağıtımı

Shashi, nicelemeye kapsamlı bir genel bakış sunarak nicelemenin optimizasyondaki önemini vurguladı Ultralytics YOLO uç cihazlarda dağıtım için modeller. Katılımcılar, temel konuların tartışılmasından nicelleştirmenin iyileştirilmesine yönelik yaklaşımların keşfedilmesine kadar, model taşıma ve dağıtımının incelikleri hakkında değerli bilgiler edindiler.

YOLO Modellerinin Niceliklendirilmesinde Karşılaşılan Zorluklar

Kuantizasyon, özellikle TFLite'daki YOLO modellerinde sıklıkla zorluklara yol açmaktadır. İzleyicilerimiz, tüm çıktılar aynı ölçek/sıfır noktası ile kuantize edildiğinde gözlemlenen doğruluktaki önemli düşüş hakkında bilgi edinerek kuantizasyon işlemi sırasında model doğruluğunu korumanın karmaşıklıklarına ışık tuttu.

YOLO Modellerinin Nicelleştirilmesinin İyileştirilmesi

Neyse ki, bu zorlukların üstesinden gelmek için çözümler mevcuttur. DigiRAM çatalının tanıtımı, çıktıları ayırarak ve sınırlayıcı kutu kod çözmeyi optimize ederek niceleme dostu bir yaklaşım sunar. Bu geliştirmelerle, nicelleştirilmiş model doğruluğu temel seviyelere göre önemli bir gelişme gösterir.

Daha Kuantizasyon Dostu Model Mimarileri

Yeni model mimarilerini keşfetmek, niceleme kaybını en aza indirmenin anahtarıdır. Katılımcılar, CILU'nun sınırlı Relu6 aktivasyonu ile değiştirilmesinin nasıl minimum niceleme kaybına yol açtığını ve nicelenmiş modellerde doğruluğu korumak için umut verici sonuçlar sunduğunu keşfettiler.

Nicelenmiş Modelleri Dağıtma

Digitim bulut platformunda herhangi bir modeli çalıştırmak için gereken sadece beş satır kod ile nicelenmiş modelleri dağıtmak hiç bu kadar kolay olmamıştı. Canlı bir kod demosu, nicelleştirilmiş bir modelle nesneleri tespit etmenin basitliğini gösterdi Ultralytics YOLOv5 modeli ile nicelleştirilmiş modellerin gerçek dünya uygulamalarına sorunsuz entegrasyonunu vurgulamaktadır. 

Bu amaçla, Ultralytics çeşitli model dağıtım seçenekleri sunarak son kullanıcıların uygulamalarını gömülü ve uç cihazlara etkin bir şekilde dağıtmalarını sağlar. Farklı dışa aktarma formatları şunları içerir OpenVINO, TorchScript, TensorRT, CoreML, TFlite ve TFlite EDGE TPU, çok yönlülük ve uyumluluk sunar. 

Dağıtım için üçüncü taraf uygulamalarla bu entegrasyon, kullanıcıların modellerimizin performansını gerçek dünya senaryolarında değerlendirmelerine olanak tanır.

Farklı Modelleri Farklı Donanımlarda Kullanma

Katılımcılar ayrıca, tek bir kod tabanının farklı hızlandırıcılarda birden fazla modeli nasıl destekleyebileceğini göstererek, çeşitli donanım platformlarında farklı modelleri dağıtmanın çok yönlülüğü hakkında bilgi edindiler. Farklı tespit görevlerinin çeşitli donanım platformlarında çalıştırılmasına ilişkin örnekler, yaklaşımımızın esnekliğini ve ölçeklenebilirliğini gösterdi.

Kaynaklar ve Dokümantasyon

Katılımcıları daha da güçlendirmek için bulut platformumuza, örneklere, belgelere ve daha fazlasına erişim sağlayan kapsamlı bir kaynaklar bölümü sunduk. Amacımız, herkesin nicelleştirilmiş modelleri etkili bir şekilde dağıtmada başarılı olmak için ihtiyaç duydukları araçlara ve desteğe sahip olmasını sağlamaktır.

Toparlıyoruz

Niceleme alanı geliştikçe, bilgi sahibi olmak ve katılım sağlamak çok önemlidir. Bu heyecan verici yolculukta yolunuzu bulmanıza yardımcı olmak için sürekli destek ve kaynaklar sağlamaya kararlıyız. Konuşmanın tamamına buradan göz atın! 

Makine öğrenimi ve yapay zeka alanındaki en son trendleri ve yenilikleri keşfetmeye devam ederken bize katılın. Birlikte teknolojinin geleceğini şekillendiriyor ve dünyada olumlu bir değişim yaratıyoruz.

Facebook logosuTwitter logosuLinkedIn logosuKopya-bağlantı sembolü

Bu kategoride daha fazlasını okuyun

Yapay zekanın gelecekteki
adresini birlikte inşa edelim!

Makine öğreniminin geleceği ile yolculuğunuza başlayın