Karışık Duyarlılık

Karışık hassasiyet, derin öğrenme modellerinin eğitimini hızlandırırken bellek tüketimini azaltmak için kullanılan model optimizasyonunda çok önemli bir tekniktir. Farklı sayısal formatları (genellikle 16 bit ve 32 bit kayan nokta türleri) stratejik olarak birleştirerek, bu yöntem makine öğrenimi algoritmalarının modelin nihai doğruluğundan ödün vermeden hesaplamaları daha hızlı gerçekleştirmesini sağlar. Modern yapay zeka geliştirmede, özellikle büyük veri kümeleri üzerinde YOLO26 mimarisini eğitmek gibi kaynak yoğun görevler için standart bir uygulama haline gelmiştir. YOLO26 mimarisini eğitmek gibi kaynak yoğun görevler için standart bir uygulama haline gelmiştir.

Karışık Duyarlılık Nasıl Çalışır

Geleneksel derin öğrenme iş akışlarında, modeller genellikle tek hassasiyetli kayan nokta formatı (FP32) kullanarak hesaplamalar yapar. FP32'deki her sayı 32 bit bellek gerektirir. Bu format son derece hassas olmakla birlikte, hesaplama açısından maliyetli ve bellek açısından yoğun olabilir.

Karışık hassasiyet, yalnızca 16 bit kullanan yarım hassasiyet (FP16) kullanımını getirir. Ancak, yalnızca FP16 kullanmak, daha küçük dinamik aralık nedeniyle sayısal kararsızlığa yol açabilir. Bunu çözmek için, karışık kesinlik yöntemleri, FP16'yı konvolüsyonlar ve matris çarpımları gibi matematiksel işlemlerin ağır yükünü taşımak için kullanırken, kararlılık için model ağırlıklarının FP32'deki "ana kopyasını" korur.

Bu süreç genellikle üç temel adımdan oluşur:

1. Döküm: NVIDIA Tensor gibi uyumlu donanımlarda yürütmeyi hızlandırmak için modelin girdilerini ve aktivasyonlarını FP16'ya dönüştürme. .
2. Kayıp Ölçeklendirme: FP16'da küçük gradyan güncellemelerinin sıfıra düşmesi olan "underflow" durumunu önlemek için kayıp fonksiyonu değerlerini büyütme.
3. Biriktirme: FP16'da aritmetik işlemleri gerçekleştirirken, ana ağırlıkları güncellemeden önce gerekli bilgileri korumak için sonuçları FP32'de biriktirir. .

AI Eğitiminde Avantajlar

Karma hassasiyetin benimsenmesi, hesaplama kaynaklarınıetkili bir şekilde kullanan geliştiriciler ve araştırmacılar için önemli avantajlar sunar: hesaplamakaynakları :

• Daha Hızlı Eğitim Hızı: FP16'daki işlemler daha az bellek bant genişliği gerektirir ve modern GPU'lar tarafından daha hızlı işlenir. Bu, bir dönem için gereken süreyi önemli ölçüde azaltabilir.
• Azaltılmış Bellek Kullanımı: FP16 tensörleri FP32'nin yarısı kadar bellek kullandığından, geliştiriciler temel olarak toplu iş boyutlarını iki katına çıkarabilirler. Daha büyük toplu iş boyutları genellikle daha kararlı gradyan tahminlerine ve daha hızlı yakınsamaya yol açar.
• Enerji Verimliliği: Azaltılmış hesaplama yükü, daha düşük enerji tüketimine yol açar ve bu, büyük ölçekli bulut eğitim operasyonları için çok önemlidir.

Gerçek Dünya Uygulamaları

Karma hassasiyet, karmaşık modelleri ve büyük veri kümelerini verimli bir şekilde işlemek için çeşitli endüstrilerde kullanılmaktadır.

Otonom Sürüş

Otonom araçların geliştirilmesinde, mühendisler milyonlarca yüksek çözünürlüklü video karesi üzerinde nesne algılama modellerini eğitmelidir. Karışık hassasiyet kullanımı, YOLO26 gibi son teknoloji modelleri verimli bir şekilde eğitmelerini sağlar. Azaltılmış bellek ayak izi, daha yüksek çözünürlüklü girdilerin işlenmesini mümkün kılar ve bu, uzaktaki trafik işaretleri veya yayalar gibi küçük nesneleri algılamak için çok önemlidir.

Tıbbi Görüntü Analizi

Tıbbi görüntü analizi genellikle MRI veya CT taramalarından elde edilen 3D volumetrik verileri içerir ve bu veriler son derece fazla bellek gerektirir. Bu veriler üzerinde tam FP32 hassasiyetinde segmentasyon modelleri eğitmek genellikle "Bellek Yetersizliği" (OOM) hatalarına yol açar. Karışık hassasiyet, araştırmacıların bu ağır modelleri GPU sığdırmalarını sağlayarak, doktorların hastalıkları daha erken teşhis etmelerine yardımcı olabilecek AI'nın geliştirilmesini kolaylaştırır.

Ultralytics ile Karma Hassasiyetin Uygulanması

Gibi modern çerçeveler PyTorch genellikle karmaşık karışık hassasiyeti Otomatik Karışık Hassasiyet (AMP) adlı bir özellik aracılığıyla otomatik olarak işler. ultralytics paket, optimum performans sağlamak için eğitim sırasında varsayılan olarak AMP'yi etkinleştirir.

YOLO26 ile eğitimi başlatmanın kısa bir örneği aşağıda verilmiştir. Burada karışık hassasiyet varsayılan olarak etkindir (kontrol edilebilir amp argüman):

from ultralytics import YOLO

# Load the latest YOLO26 model
model = YOLO("yolo26n.pt")

# Train the model on the COCO8 dataset
# amp=True is the default setting for mixed precision training
results = model.train(data="coco8.yaml", epochs=5, imgsz=640, amp=True)

Karışık Hassasiyet ve İlgili Kavramlar

Karışıklığı önlemek için, karışık hassasiyeti sözlükteki benzer terimlerden ayırmak yararlıdır:

• Model Niceleme: Karışık hassasiyet, eğitim sırasında daha düşük hassasiyetli kayan nokta sayıları (FP16) kullanırken, niceleme genellikle dağıtım için eğitimden sonra ağırlıkları tamsayılara (INT8 gibi) dönüştürür. Niceleme, öncelikle kenar cihazlarındaki çıkarım gecikmesine odaklanırken, karışık hassasiyet eğitim hızı ve kararlılığına odaklanır.
• Yarım Hassasiyet: Bu, özellikle FP16 veri formatının kendisini ifade eder. Karışık hassasiyet, FP16 ve FP32'yi birlikte kullanma tekniğidir. "Karışık" FP32 ana kopyası olmadan saf yarım hassasiyet kullanmak, genellikle sayısal hatalar nedeniyle yakınsama sağlayamayan modellerle sonuçlanır.

Sonuç

Karışık hassasiyet, sinir ağlarının eğitilme şeklini kökten değiştirerek, günümüzde gördüğümüz devasa temel modeller ve görme sistemleri için kritik bir etken olarak işlev görmektedir. Matematiksel hassasiyet ihtiyacını donanım hızı ve bellek kısıtlamalarıyla dengeleyerek, geliştiricilerin daha hızlı yineleme yapmasına ve daha yetenekli AI çözümleri oluşturmasına olanak tanır.

Veri kümelerini yönetmek ve optimize edilmiş modelleri sorunsuz bir şekilde eğitmek isteyenler için Ultralytics , bu modern optimizasyon tekniklerini otomatik olarak kullanan kapsamlı bir ortam sunar.