Dmitriy Pastushenkov ve Adrian Boguszewski'nin Intel OpenVino ile YOLO modellerini optimize etme ve Intel'un AI PC'sinde gerçek zamanlı çıkarımlar çalıştırma hakkındaki YOLO Vision 2024 konuşmasını tekrar ziyaret edin.
YOLO Vision 2024 (YV24), Ultralytics'yıllık hibrit etkinliği, bilgisayarla görme alanındaki en son yenilikleri keşfetmek için dünyanın dört bir yanından yapay zeka meraklılarını, geliştiricileri ve uzmanları bir araya getirdi. YV24, yeni atılımları tartışmak için harika bir fırsat ve platform oldu. Etkinlikte yapay zeka sektörünün önemli oyuncuları en son yeniliklerini tanıttı. Bunların arasında, etkinlikte yer alan ve çığır açan yeni AI PC'leri ve Intel OpenVino 'un Ultralytics YOLO gibi modellerle entegrasyonu hakkında bir açılış konuşması yapan Intel da vardı. Ultralytics YOLO11.
Konuşma, LandCover.ai veri setinin ortak yazarı olan ve geliştiricileri Intel'un OpenVINO araç seti hakkında eğiten bir Yazılım Evangelisti olan Adrian Boguszewski ve endüstriyel otomasyon ve yapay zeka alanında 20 yılı aşkın deneyime sahip bir AI PC Evangelisti olan Dmitriy Pastushenkov tarafından yönetildi. Etkinlik sırasında heyecanını paylaşan Adrian, "Bugün sadece Ultralytics yeni bir YOLO sürümü sunduğu için değil, aynı zamanda yeni donanımımız üzerinde çalışan bu yeni modeli ve OpenVINO'un yeni bir sürümünü sunabildiğimiz için de harika bir etkinlik" dedi.
Bu makalede, Intel'un YV24'teki konuşmasından önemli noktalara göz atacak, yapay zeka bilgisayarları Intel Core Ultra 200V Serisinin iç ve dış özelliklerini ve OpenVINO araç setini kullanarak Ultralytics YOLO modelleriyle nasıl entegre olduklarını inceleyeceğiz. Hadi başlayalım!
Dmitriy, açılış konuşmasına geleneksel yapay zeka ile üretici yapay zeka arasındaki temel farklara değinerek başladı. Odak noktası, bu teknolojilerin ve kullanım durumlarının 2024'te nasıl gelişeceği etrafında dönüyordu. Bilgisayarla görme ve doğal dil işleme gibi geleneksel YZ teknikleri, poz tahmini, nesne algılama ve ses tanıma gibi görevler için gerekli olmuştur. Üretken YZ ise sohbet robotları, metinden görüntü oluşturma, kod yazma ve hatta metinden videoya gibi uygulamaları içeren daha yeni bir YZ teknolojisi dalgasını temsil ediyor.
Dmitriy, ikisi arasındaki ölçek farkına dikkat çekti. Geleneksel YZ modelleri milyonlarca parametreden oluşurken, üretken YZ modellerinin çok daha büyük bir ölçekte çalıştığını açıkladı. Üretken YZ modelleri genellikle milyarlarca hatta trilyonlarca parametre içeriyor ve bu da onları hesaplama açısından çok daha zorlu hale getiriyor.
Dmitriy, hem geleneksel hem de üretken yapay zeka modellerini verimli bir şekilde çalıştırmanın artan zorluklarını ele almak için tasarlanmış yeni bir donanım çözümü olarak Intel AI PC'yi tanıttı. Intel AI PC güçlü ve enerji tasarruflu bir makinedir. Bulut tabanlı işlemeye ihtiyaç duymadan çok çeşitli YZ modellerini yerel olarak çalıştırabilir.
Yerel işleme, hassas verilerin gizli tutulmasına yardımcı olur. Yapay zeka modelleri internet bağlantılarından bağımsız olarak çalışabildiğinde, endüstrilerin gizlilik ve güvenlikle ilgili etik kaygıları da giderilmiş olur.
Intel AI PC'nin arkasındaki itici güç Intel Core Ultra 200V Serisi işlemcidir. Bu işlemci üç temel bileşen içerir: Merkezi İşlem Birimi (CPU), Grafik İşlem Birimi (GPU) ve Sinirsel İşlem Birimi (NPU). Her biri, farklı yapay zeka iş yüklerinin ele alınmasında belirli bir rol oynar. CPU hızlı yanıt gerektiren daha küçük, düşük gecikmeli görevler için idealken, GPU yapay zeka modellerini çalıştırmak gibi yüksek verimli işlemler için optimize edilmiştir. Güç verimliliği için tasarlanan NPU, aşağıdaki gibi modellerle gerçek zamanlı nesne algılama gibi uzun süreli görevler için çok uygundur YOLO11.
CPU 'un 5 TOPS'a (Saniyede Trilyonlarca İşlem), GPU 'un 67 TOPS'a kadar işlem yapabildiği ve NPU'nun yapay zeka görevlerini sistem kaynaklarını tüketmeden sürekli olarak çalıştırmak için enerji tasarruflu bir yol sağladığı vurgulandı.
Intel Core Ultra 200V Serisi işlemci, üç yapay zeka motorunu (NPU, CPU ve GPU ) tek bir küçük çipte birleştirir. Tasarımı, performanstan ödün vermeden dizüstü bilgisayarlar gibi kompakt cihazlar için mükemmel şekilde uygundur.
İşlemci ayrıca dahili RAM içeriyor ve ayrı grafik kartlarına olan ihtiyacı azaltıyor. Bu da güç kullanımını azaltmaya yardımcı oluyor ve cihazın kompakt kalmasını sağlıyor. Dmitriy ayrıca işlemcinin esnekliğini de vurguladı. Kullanıcılar, göreve bağlı olarak yapay zeka modellerini CPU, GPU veya NPU üzerinde çalıştırmaya karar verebilirler. Örneğin, YOLO11 modelleriyle nesne algılama bu motorlardan herhangi birinde çalışabilirken, metinden görüntüye oluşturma gibi daha karmaşık görevler daha iyi performans için hem GPU hem de NPU'yu aynı anda kullanabilir.
Sunum sırasında Dmitriy çipi cebinden çıkararak, bu kadar gelişmiş yapay zeka görevlerini yerine getirebilmesine rağmen ne kadar küçük olduğunu herkese net bir şekilde gösterdi. Bu, Intel 'un güçlü yapay zeka yeteneklerini daha taşınabilir ve pratik cihazlara nasıl getirdiğini göstermenin eğlenceli ve unutulmaz bir yoluydu.
Intel'un en son donanım gelişmelerini sergileyen Dmitriy, daha sonra vitesi Intel'un yapay zekayı destekleyen yazılım yığınına geçirdi. Yapay zeka modellerini farklı cihazlarda verimli bir şekilde optimize etmek ve dağıtmak için tasarlanan OpenVINO, Intel'un açık kaynaklı çerçevesini tanıttı. OpenVINO , desteğini doğal dil işleme, ses işleme, dönüştürücüler vb. için kullanılan yapay zeka modellerine genişleterek görsel görevlerin ötesine geçiyor.
OpenVINO gibi popüler platformlarla uyumludur. PyTorch, TensorFlow, ve ONNXve geliştiriciler bunu iş akışlarına kolayca dahil edebilirler. Dikkat çektiği önemli özelliklerden biri de niceleme. Niceleme, büyük modellerin buluta ihtiyaç duymadan yerel cihazlarda sorunsuz bir şekilde çalışabilmesi için model ağırlıklarını sıkıştırarak boyutlarını küçültür. OpenVINO , CPU, GPU, NPU, FPGA ve hatta ARM cihazlarında çalışarak birden fazla çerçevede çalışır ve Windows, Linux ve macOS'u destekler. Dmitriy ayrıca izleyicilere OpenVINO ile çalışmaya başlamanın ne kadar kolay olduğunu anlattı.
Konuşmanın ikinci bölümünde mikrofon, Ultralytics YOLO modelleri ile Intel'un OpenVINO araç seti arasındaki sorunsuz entegrasyonu açıklayan ve YOLO model dağıtım sürecini basitleştiren Adrian'a geçti. Ultralytics Python paketini kullanarak bir YOLO modelini OpenVINO formatına aktarmanın nasıl hızlı ve basit olduğunu adım adım açıkladı. Bu entegrasyon, geliştiricilerin modellerini Intel donanımı için optimize etmelerini ve her iki platformdan da en iyi şekilde yararlanmalarını çok daha kolay hale getiriyor.
Adrian, bir Ultralytics YOLO modeli eğitildikten sonra kullanıcıların birkaç basit komut satırı bayrağı kullanarak modeli dışa aktarabileceklerini gösterdi. Örneğin, kullanıcılar modeli maksimum hassasiyet için kayan noktalı sürüm olarak mı yoksa daha iyi hız ve verimlilik için nicelenmiş sürüm olarak mı dışa aktarmak istediklerini belirtebilirler. Ayrıca, geliştiricilerin çok fazla doğruluktan ödün vermeden performansı artırmak için INT8 niceleme gibi seçenekleri kullanarak bu süreci doğrudan kod aracılığıyla nasıl yönetebileceklerini de vurguladı.
Tüm bu teoriyi uygulamaya koyan Intel ekibi, gerçek zamanlı bir nesne algılama demosu sundu. YOLO11Intel AI PC üzerinde. Adrian, sistemin modeli farklı işlemciler arasında nasıl ele aldığını, kayan nokta modeliyle CPU 'da saniyede 36 kare (FPS), entegre GPU'da 100'ün üzerinde FPS ve INT8 nicelleştirilmiş sürümüyle 70 FPS elde ettiğini gösterdi. Intel AI PC'nin karmaşık AI görevlerini ne kadar verimli bir şekilde yönetebileceğini gösterebildiler.
Ayrıca sistemin, tüm verilerin veya video karelerinin önceden mevcut olduğu görevler için CPU, GPU ve NPU'yu birlikte kullanarak modelleri paralel olarak çalıştırabileceğine dikkat çekti. Bu, videolar gibi ağır yükleri işlerken kullanışlıdır. Sistem, iş yükünü farklı işlemcilere bölerek daha hızlı ve daha verimli hale getirebilir.
Adrian sözlerini tamamlarken, kullanıcıların insan sayma ve akıllı kuyruk yönetimi gibi çözümler de dahil olmak üzere demoları evde deneyebileceklerinden bahsetti. Ardından, kullanıcıların GPU adresinde gerçek zamanlı olarak rüya benzeri görüntüler oluşturmak için komutlar girebilecekleri bir bonus demo gösterdi. Bu demo, Intel AI PC'nin hem geleneksel AI görevleri hem de yaratıcı, üretken AI projeleri için çok yönlülüğünü gösterdi.
Etkinlikte Intel , Intel AI PC'lerinde çalışan YOLO11 kullanarak gerçek zamanlı bir nesne algılama demosu sergiledikleri bir stant açtı. Katılımcılar, OpenVINO ile optimize edilmiş ve Intel Core Ultra 200V işlemci üzerinde konuşlandırılmış modeli çalışırken görebildiler.
Dmitry Intel standında şunları söyledi: " YOLO Vision'a ilk kez katılıyorum ve Madrid'de olmaktan çok mutluyum. Intel Core Ultra 200V işlemci üzerinde çalışan YOLO11 modelini Ultralytics adresinden sunuyoruz. Mükemmel performans gösteriyor ve modeli optimize etmek ve dağıtmak için OpenVINO kullanıyoruz. Ultralytics ile işbirliği yapmak ve modeli CPU, GPU ve NPU'yu kullanarak en yeni Intel donanımında çalıştırmak çok kolaydı." Stantta ayrıca katılımcıların evlerine götürebilecekleri tişörtler ve dizüstü bilgisayarlar gibi bazı eğlenceli hediyeler de vardı.
Intel Intel Core Ultra 200V Serisi işlemcilerin yer aldığı YV24'teki teknoloji konuşmasında araç setinin gibi yapay zeka modellerini nasıl optimize ettiği gösterildi. Bu entegrasyon, kullanıcıların modellerini doğrudan cihazlarında çalıştırmalarını sağlayarak nesne algılama gibi bilgisayarla görme görevleri için mükemmel performans sunar. En önemli avantajı ise kullanıcıların bulut hizmetlerine ihtiyaç duymaması. OpenVINO Ultralytics YOLO11 YOLO
Geliştiriciler ve yapay zeka meraklıları, gerçek zamanlı uygulamalar için CPU, GPU ve NPU gibi donanımlardan tam olarak yararlanarak YOLO modellerini zahmetsizce çalıştırabilir ve ince ayar yapabilir. Intel OpenVINO araç seti, Ultralytics YOLO modelleriyle birlikte, gelişmiş yapay zeka yeteneklerini doğrudan kişisel cihazlara getirmek için yeni olanaklar sunarak, çeşitli sektörlerde yapay zeka yeniliklerini teşvik etmek isteyen geliştiriciler için ideal bir seçenek haline getiriyor.
İşbirliği yapalım ve yenilik yapalım! Katkılarımızı keşfetmek ve topluluğumuzla etkileşim kurmak için GitHub depomuzu ziyaret edin. Üretim ve sağlık hizmetleri gibi sektörlerde etki yaratmak için yapay zekayı nasıl kullandığımızı görün.
Makine öğreniminin geleceği ile yolculuğunuza başlayın
