Sinirsel Mimari Arama (NAS)

Sinir Mimarisi Arama (NAS), Otomatik Makine Öğrenimi (AutoML) alanında yapay sinir ağlarının tasarımını otomatikleştiren sofistike bir tekniktir. Geleneksel olarak, yüksek performanslı derin öğrenme (DL) mimarileri tasarlamak için kapsamlı insan uzmanlığı, sezgi ve zaman alıcı deneme-yanılma süreçleri gerekiyordu. NAS, bu manuel süreci, belirli bir görev için en uygun yapıyı keşfetmek üzere çok çeşitli ağ topolojilerini sistematik olarak araştıran algoritmik stratejilerle değiştirir. NAS, çeşitli katman ve işlem kombinasyonlarını test ederek, doğruluk, hesaplama verimliliği veya çıkarım hızı açısından insan tarafından tasarlanan modellerden önemli ölçüde daha iyi performans gösteren mimarileri belirleyebilir.

NAS'ın Temel Mekanizmaları

Üstün bir mimariyi keşfetme süreci genellikle, en iyi sinir ağını (NN) bulmak için birbiriyle etkileşime giren üç temel boyutu içerir: :

1. Arama Alanı: Bu, algoritmanın keşfedebileceği tüm olası mimarilerin kümesini tanımlar. Konvolüsyon filtreleri, havuzlama katmanları ve çeşitli aktivasyon fonksiyonları gibi yapı taşları kütüphanesi gibi işlev görür. İyi tanımlanmış bir arama alanı, aramanın hesaplama açısından uygulanabilir olmasını sağlamak için karmaşıklığı sınırlarken, yenilik için yeterli esnekliği sağlar.
2. Arama Stratejisi: Her olasılığı test etmek yerine (kaba kuvvet), NAS akıllı algoritmalar kullanarak arama alanını verimli bir şekilde tarar. Yaygın yaklaşımlar arasında, bir ajanın zamanla daha iyi mimariler oluşturmayı öğrendiği pekiştirme öğrenimi ve en iyi performans gösteren modelleri değiştirip birleştirerek üstün adaylar üreten evrimsel algoritmalar bulunur.
3. Performans Tahmin Stratejisi: Her aday ağı sıfırdan eğitmek çok yavaştır. Bunu hızlandırmak için NAS, daha az dönem üzerinde eğitim, daha düşük çözünürlüklü proxy veri kümeleri kullanma veya ağırlık paylaşımıgibi tahmin tekniklerini kullanarak aday mimarinin potansiyelini hızlı bir şekilde sıralar.

Gerçek Dünya Uygulamaları

NAS, donanım kısıtlamalarının veya performans gereksinimlerinin katı olduğu sektörlerde kritik bir öneme sahip hale gelmiş ve bilgisayar görme (CV) ve diğer yapay zeka alanlarının sınırlarını zorlamaktadır.

• Verimli Kenar Bilişim: Mobil cihazlarda yapay zeka kullanmak için hem hafif hem de hızlı modeller gerekir. NAS, yüksek hassasiyeti korurken çıkarım gecikmesini en aza indiren MobileNetV3 ve EfficientNet gibi mimarileri keşfetmek için yaygın olarak kullanılır. Bu, akıllı kameralar veya otonom dronlarda gerçek zamanlı video analizi gibi kenar yapay zeka uygulamaları için hayati önem taşır.
• Tıbbi Görüntüleme: Tıbbi görüntü analizinde doğruluk çok önemlidir. NAS, X-ışınları veya MRI taramalarındaki detect anomalileri detect için ağları özelleştirebilir ve genellikle insan mühendislerinin gözden kaçırabileceği yeni özellik çıkarma yolları bulabilir. Bu, beyin tümörleri veya kırıklar gibi durumları daha yüksek hassasiyetle tespit etmek için daha güvenilir araçlar sağlar.

NAS ve İlgili Kavramlar

NAS'ın özel rolünü anlamak için, onu benzer optimizasyon tekniklerinden ayırmak yararlıdır:

• NAS ve Hiperparametre Ayarlama: Her ikisi de optimizasyon içerse de, hiperparametre ayarlama, sabit bir mimari için yapılandırma ayarlarını ( öğrenme oranı veya toplu iş boyutu gibi) ayarlamaya odaklanır. Buna karşılık, NAS, katman sayısı veya nöronların nasıl bağlandığı gibi modelin temel yapısını değiştirir.
• NAS ve Transfer Öğrenimi: Transfer öğrenimi, mevcut, önceden eğitilmiş bir modeli alır ve ağırlıklarını yeni bir göreve uyarlar. NAS, model mimarisini sıfırdan oluşturur (veya daha iyi bir omurga backbonearar).

NAS'tan Türetilen Modellerin Kullanılması

Tam bir NAS araması yapmak için önemli miktarda GPU kaynağı gerekse de, geliştiriciler NAS ile oluşturulan modelleri kolayca kullanabilirler. Örneğin, YOLO mimarisi, nesne algılama görevlerini optimize etmek için bu arama ilkeleri kullanılarak keşfedilmiştir.

Aşağıdaki Python , önceden aranmış bir NAS modelini ultralytics Paket:

from ultralytics import NAS

# Load a pre-trained YOLO-NAS model (architecture found via NAS)
# 'yolo_nas_s.pt' refers to the small version of the model
model = NAS("yolo_nas_s.pt")

# Run inference on an image to detect objects
# This utilizes the optimized architecture for fast detection
results = model("https://ultralytics.com/images/bus.jpg")

# Print the top detected class
print(f"Detected: {results[0].names[int(results[0].boxes.cls[0])]}")

NAS'ın karmaşıklığı olmadan en son teknolojiye sahip modeller eğitmek isteyenler için, Ultralytics , araştırmalardaki en son gelişmeleri içeren, kullanıma hazır, son derece optimize edilmiş bir mimari sunar. Ultralytics kullanarak bu modeller için veri kümelerini, eğitimi ve dağıtımı kolayca yönetebilirsiniz. Bu Ultralytics , tüm MLOps yaşam döngüsünü basitleştirir.