Apprendimento attivo

Come funziona l'apprendimento attivo

Il processo di apprendimento attivo segue generalmente un ciclo iterativo, consentendo al modello di migliorare in modo incrementale con dati mirati:

1. Formazione iniziale del modello: Un modello, come ad esempio un Ultralytics YOLO per il rilevamento di oggetti o la segmentazione di immagini, viene addestrato su un piccolo set di dati inizialmente etichettati.
2. Interrogazione di dati non etichettati: Il modello addestrato viene utilizzato per fare previsioni(inferenza) su un pool di dati non etichettati.
3. Applicazione della strategia di interrogazione: Una strategia di interrogazione analizza le previsioni del modello (ad esempio, in base alla fiducia o all'incertezza della previsione) per selezionare i punti di dati non etichettati più informativi, ovvero quelli di cui il modello è meno sicuro o che dovrebbero fornire il maggior numero di nuove informazioni.
4. Annotazione dell'oracolo: I punti dati selezionati vengono presentati a un annotatore umano (l'oracolo) per l'etichettatura. In questo caso sono fondamentali pratiche efficaci di raccolta e annotazione dei dati.
5. Riqualificazione del modello: I nuovi dati etichettati vengono aggiunti al set di addestramento e il modello viene riaddestrato (o messo a punto) con questo set di dati ampliato.
6. Iterazione: Il ciclo si ripete dal punto 2 fino a quando non viene raggiunto il livello di prestazioni desiderato, il budget per l'etichettatura è esaurito o non rimangono campioni significativamente informativi.

Strategie di interrogazione

L'efficacia dell'apprendimento attivo dipende in larga misura dalla sua strategia di interrogazione: l'algoritmo utilizzato per selezionare i punti di dati non etichettati da etichettare successivamente. L'obiettivo è quello di scegliere i campioni che, una volta etichettati, probabilmente porteranno al massimo miglioramento delle prestazioni del modello. Le strategie più comuni includono:

• Campionamento dell'incertezza: Seleziona i casi in cui il modello è meno sicuro della sua previsione. Questo aspetto è spesso misurato dalla probabilità di predizione, dall'entropia o dal margine tra le migliori previsioni.
• Query-by-Committee (QBC): Utilizza un insieme di modelli. I casi in cui i membri del comitato sono più in disaccordo sulla previsione vengono selezionati per l'etichettatura.
• Modifica del modello prevista: Seleziona le istanze che causerebbero la maggiore modifica ai parametri o ai gradienti del modello se le loro etichette fossero note.
• Approcci basati sulla densità: Privilegia le istanze che non sono solo incerte ma anche rappresentative delle distribuzioni dei dati sottostanti.

Una panoramica completa delle strategie può essere trovata in risorse come l'indagine bibliografica sull'apprendimento attivo di Burr Settles.

Rilevanza e vantaggi

L'Apprendimento Attivo riduce in modo significativo l'onere e il costo associati all'etichettatura dei dati, che spesso rappresenta il principale collo di bottiglia nello sviluppo di solidi modelli di Deep Learning (DL). Concentrando gli sforzi di annotazione in modo strategico, permette ai team di:

• Ottenere una maggiore precisione con meno dati: Ottieni prestazioni migliori del modello rispetto al campionamento casuale, a parità di budget per l'etichettatura.
• Riduci i costi di etichettatura: Riduci al minimo il tempo e le risorse spese per l'annotazione manuale.
• Accelera lo sviluppo dei modelli: Raggiungi più velocemente i livelli di performance desiderati dando priorità ai dati di maggiore impatto. Scopri come l'apprendimento attivo accelera lo sviluppo della visione artificiale.
• Migliorare la robustezza del modello: Concentrarsi su esempi ambigui o difficili può aiutare i modelli a generalizzare meglio.

Applicazioni del mondo reale

L'apprendimento attivo viene applicato in diversi campi in cui i dati etichettati sono un vincolo:

• Imaging medico: In compiti come il rilevamento dei tumori con modelli YOLO , il tempo dei radiologi esperti è prezioso. L'apprendimento attivo seleziona le scansioni più ambigue da esaminare, ottimizzando l'uso delle risorse degli esperti. Questo aspetto è fondamentale per lo sviluppo di soluzioni di intelligenza artificiale efficaci nel settore sanitario.
• Elaborazione del linguaggio naturale (NLP): Per compiti come l'analisi del sentimento o il riconoscimento di entità nominate (NER), l'identificazione di campioni di testo informativi (ad esempio quelli con sentimenti ambigui o entità rare) per l'etichettatura migliora in modo efficiente l'accuratezza del modello. Strumenti di piattaforme come Hugging Face spesso traggono vantaggio da queste tecniche.
• Veicoli autonomi: La selezione di scenari di guida difficili o rari (ad esempio, condizioni meteorologiche insolite, incroci complessi) da grandi quantità di dati di guida non etichettati per l'annotazione aiuta a migliorare la sicurezza e l'affidabilità dei sistemi di guida autonoma.
• Analisi delle immagini satellitari: L'identificazione di caratteristiche specifiche o di cambiamenti in grandi serie di immagini satellitari può essere accelerata facendo in modo che il modello interroghi le regioni incerte per ottenere la revisione di un esperto.

Apprendimento attivo e concetti correlati

È importante distinguere l'apprendimento attivo da altri paradigmi di apprendimento che utilizzano anche dati non etichettati:

• Apprendimento semi-supervisionato: Utilizza contemporaneamente dati etichettati e non etichettati durante l'addestramento del modello. A differenza dell'apprendimento attivo, in genere utilizza tutti i dati non etichettati disponibili in modo passivo, piuttosto che interrogare selettivamente istanze specifiche per ottenere etichette.
• Apprendimento auto-supervisionato: Apprende le rappresentazioni da dati privi di etichetta creando compiti preliminari (ad esempio, prevedere una parte mascherata di un'immagine). Non richiede l'annotazione umana durante la fase di pre-addestramento, mentre l'apprendimento attivo si affida a un oracolo per le etichette.
• Apprendimento per rinforzo: Apprende per tentativi ed errori attraverso le interazioni con l'ambiente, ricevendo ricompense o penalità per le azioni compiute. Non prevede la richiesta di etichette esplicite come l'apprendimento attivo.
• Apprendimento federato: Si concentra sull'addestramento di modelli su dispositivi decentralizzati mantenendo i dati a livello locale, in particolare per risolvere i problemi di privacy dei dati. Apprendimento attivo: si concentra sull'acquisizione efficiente delle etichette. Queste tecniche possono talvolta essere combinate.

Strumenti e implementazione

L'implementazione dell'apprendimento attivo spesso comporta l'integrazione di modelli di ML con strumenti di annotazione e la gestione del flusso di dati. Framework e librerie come scikit-learn offrono alcune funzionalità, mentre esistono librerie specializzate per compiti specifici. I software di annotazione come Label Studio possono essere integrati nelle pipeline di apprendimento attivo, consentendo agli annotatori di fornire etichette per i campioni interrogati. Piattaforme come DagsHub offrono strumenti per la creazione e la gestione di queste pipeline, come discusso nel loro intervento aYOLO VISION 2023 su DagsHub Active Learning Pipelines. Una gestione efficace dei dataset in evoluzione e dei modelli addestrati è fondamentale e piattaforme come Ultralytics HUB forniscono un'infrastruttura per organizzare questi asset durante il ciclo di vita dello sviluppo. Esplora il repository GitHub di Ultralytics e unisciti alla community diUltralytics per discutere e trovare risorse relative all'implementazione di tecniche di ML avanzate.