Facendo clic su "Accetta tutti i cookie", acconsenti alla memorizzazione dei cookie sul tuo dispositivo per migliorare la navigazione del sito, analizzare l'utilizzo del sito e contribuire alle nostre iniziative di marketing. Per saperne di più
Impostazioni dei cookie
Facendo clic su "Accetta tutti i cookie", acconsenti alla memorizzazione dei cookie sul tuo dispositivo per migliorare la navigazione del sito, analizzare l'utilizzo del sito e contribuire alle nostre iniziative di marketing. Per saperne di più
Comprendere i pregiudizi dell'intelligenza artificiale e i pregiudizi del set di dati nei sistemi di intelligenza artificiale della visione
Scopri come la parzialità del set di dati influisce sui modelli di computer vision e come Ultralytics YOLO11 aiuta a ridurre la parzialità grazie all'aumento intelligente e agli strumenti di formazione flessibili.
I modelli di intelligenza artificiale (AI) stanno cambiando il modo in cui risolviamo i problemi, ma non sono perfetti. Dalle auto a guida autonoma agli strumenti diagnostici nel settore sanitario, ci affidiamo all'IA per interpretare i dati e prendere decisioni. Cosa succede quando i dati stessi sono imperfetti?
I bias nell'IA si riferiscono a schemi di incoerenza che si sviluppano nei modelli, spesso senza che nessuno se ne renda conto. Questi pregiudizi possono indurre i modelli a fare previsioni imprecise, incoerenti o addirittura dannose. Nella computer vision, le distorsioni sono solitamente riconducibili a una fonte fondamentale: il set di dati. Se i dati utilizzati per addestrare il modello sono sbilanciati o poco rappresentativi, il modello rifletterà queste lacune.
Diamo un'occhiata più da vicino a come si formano le distorsioni dei set di dati, a come influiscono sui modelli di computer vision e alle misure che gli sviluppatori possono adottare per individuarle e prevenirle. Mostreremo anche come modelli come Ultralytics YOLO11 possono supportare gli sforzi per costruire sistemi di intelligenza artificiale più equi che generalizzino meglio, ovvero che si comportino bene con dati nuovi e sconosciuti e che servano tutti in modo più equo.
Che cos'è l'AI bias e perché è importante?
La distorsione dell'intelligenza artificiale si riferisce a errori consistenti in un sistema di intelligenza artificiale che si traducono in risultati distorti o imprecisi. In parole povere, il modello inizia a privilegiare un tipo di input visivo rispetto ad altri, il che influisce sull'equità del modello, non perché abbia prestazioni migliori ma piuttosto per il modo in cui è stato addestrato.
Questo può essere particolarmente comune nella computer vision, dove i modelli imparano dai dati visivi. Se un set di dati comprende per lo più un tipo di oggetto, una scena o una persona, il modello apprende modelli che funzionano bene solo in quei casi.
Immagina un modello addestrato principalmente sulle immagini del traffico delle grandi città. Se viene utilizzato in un'area rurale, potrebbe classificare in modo errato le strade insolite o non rilevare tipi di veicoli che non ha mai visto prima. Questo è il pregiudizio dell'intelligenza artificiale in azione. Ciò comporta una minore accuratezza e una generalizzazione limitata, ovvero la capacità di un modello di funzionare bene con input nuovi o diversi.
Nelle applicazioni in cui la precisione è essenziale, come quelle sanitarie o di sicurezza, questi errori non sono solo frustranti, ma possono essere pericolosi. Affrontare le distorsioni significa migliorare le prestazioni, l'affidabilità e la sicurezza.
Come la distorsione del set di dati influenza il comportamento del modello
Quando parliamo di distorsione dei dati, ci riferiamo allo squilibrio o alla limitazione dei dati utilizzati per addestrare un modello. La distorsione del dataset si verifica quando i dati di addestramento non riflettono adeguatamente la diversità del mondo reale che si intende modellare.
I modelli di visione al computer non comprendono il mondo. Capiscono gli schemi. Se le uniche immagini di cani che vedono sono golden retriever in cortile, potrebbero non riconoscere un husky su un sentiero innevato.
Figura 1. La riponderazione dei dati di partenza aiuta a ottenere una migliore accuratezza del modello.
Questo evidenzia una delle principali sfide causate dalla parzialità dei dati. Il modello costruisce la sua comprensione in base a ciò che gli viene mostrato. Se i dati di addestramento non riflettono la varietà del mondo reale, il comportamento del modello si restringe e diventa meno efficace in condizioni non familiari.
I classificatori di immagini spesso peggiorano significativamente quando vengono testati su un set di dati diverso da quello su cui sono stati addestrati, anche se entrambi i set di dati sono stati creati per lo stesso compito. Piccoli cambiamenti nell'illuminazione, negli sfondi o nell'angolazione della telecamera possono portare a cali di accuratezza notevoli. Questo dimostra quanto facilmente le distorsioni del dataset possano influenzare la capacità di generalizzazione di un modello.
Questi non sono casi limite. Sono segnali che indicano che la pipeline dei dati è importante tanto quanto l'architettura del modello.
Tipi di distorsione nei dati di addestramento dell'IA
I pregiudizi possono essere riscontrati nel processo di sviluppo in modi sottili, spesso durante la raccolta, l'etichettatura o la cura dei dati. Di seguito sono elencati i tre principali tipi di pregiudizi che possono influenzare i dati di formazione:
Bias di selezione
L'errore di selezione può verificarsi quando il set di dati non rappresenta la varietà di immagini che si vedono nel mondo reale. Se un modello di rilevamento dei pedoni viene addestrato solo su immagini chiare e diurne, non avrà buone prestazioni di notte o con la nebbia. Il processo di selezione ha quindi tralasciato casi cruciali.
Figura 2. Una rappresentazione visiva del pregiudizio di selezione quando viene scelto solo un sottoinsieme non diversificato.
Questa distorsione si verifica quando il set di dati non cattura l'intera gamma di scenari reali a causa del modo in cui sono stati raccolti i dati. Ad esempio, un modello di rilevamento dei pedoni addestrato solo su immagini chiare e diurne può fallire in caso di nebbia, neve o scarsa illuminazione. Questo accade spesso quando i dati vengono raccolti in condizioni ideali o convenienti, limitando la capacità del modello di funzionare in ambienti diversi. Espandere le attività di raccolta per includere ambienti più diversi aiuta a ridurre questo tipo di pregiudizio.
Questo problema può presentarsi anche nei dataset costruiti a partire da fonti online, dove i contenuti possono essere fortemente orientati verso determinate località, lingue o contesti socioeconomici. Senza uno sforzo deliberato per diversificare il set di dati, il modello erediterà queste limitazioni.
Etichetta distorta
La distorsione delle etichette si verifica quando gli annotatori umani applicano etichette errate o incoerenti. Un'etichetta errata può sembrare innocua, ma se si verifica spesso, il modello inizia ad apprendere associazioni sbagliate.
Un'etichettatura incoerente può confondere il modello durante l'addestramento, soprattutto in compiti complessi come il rilevamento di oggetti. Ad esempio, un annotatore può etichettare un veicolo come "auto" mentre un altro lo etichetta come "camion". Queste incongruenze influiscono sulla capacità del modello di apprendere modelli affidabili, riducendo l'accuratezza dell'inferenza.
Figura 3. I bias nelle pipeline di dati derivano dagli squilibri del mondo reale.
Le distorsioni nell'etichettatura possono emergere anche da linee guida di annotazione poco chiare o da interpretazioni diverse degli stessi dati. Stabilire standard di etichettatura ben documentati ed eseguire controlli di qualità può ridurre in modo significativo queste sfide.
La formazione continua degli annotatori e l'uso dell'etichettatura consensuale, in cui più annotatori esaminano ogni campione, sono due strategie efficaci per ridurre al minimo la distorsione delle etichette e migliorare la qualità del set di dati.
Pregiudizi di rappresentazione
Gli errori di rappresentazione spesso riflettono disuguaglianze sociali più ampie. I dati raccolti nelle regioni più ricche o più collegate possono non cogliere la diversità delle popolazioni o degli ambienti meno rappresentati. Per affrontare questa distorsione è necessario includere intenzionalmente gruppi e contesti trascurati.
I pregiudizi di rappresentazione si verificano quando alcuni gruppi o classi sono sottorappresentati nel set di dati. Questi possono includere gruppi demografici, categorie di oggetti o condizioni ambientali. Se un modello vede solo una tonalità di pelle, un tipo di oggetto o uno stile di sfondo, le sue previsioni rifletteranno questo squilibrio.
Possiamo osservare questo tipo di distorsione quando alcuni gruppi o categorie sono inclusi in quantità molto minore rispetto ad altri. Questo può influenzare le previsioni del modello verso gli esempi dominanti nel set di dati. Ad esempio, un modello di riconoscimento facciale addestrato principalmente su un gruppo demografico potrebbe faticare a ottenere risultati accurati su tutti gli utenti. A differenza del pregiudizio di selezione, che è legato alla varietà dei dati, il pregiudizio di rappresentazione riguarda l'equilibrio tra i gruppi.
Gli audit sulla diversità e le strategie mirate di espansione dei dati possono aiutare a garantire che tutti i dati demografici e le categorie rilevanti siano rappresentati correttamente nel set di dati di formazione.
Come individuare e mitigare le distorsioni del set di dati
Nelle applicazioni reali, i pregiudizi dell'intelligenza artificiale non si limitano a qualche previsione errata. Può portare a sistemi che funzionano bene per alcune persone ma non per tutti.
Nell'IA automobilistica, i modelli di rilevamento possono funzionare in modo incoerente tra i gruppi di pedoni, portando a risultati inferiori in termini di sicurezza per gli individui sottorappresentati. Il problema non è l'intento del modello. È l'input visivo su cui è stato addestrato. Anche in agricoltura, la distorsione nel rilevamento degli oggetti può comportare una scarsa identificazione delle colture in condizioni di luce o meteo diverse. Queste sono conseguenze comuni dell'addestramento dei modelli su set di dati limitati o non bilanciati.
Per correggere le distorsioni dell'intelligenza artificiale è necessario sapere dove guardare. Se il tuo set di addestramento manca di esempi chiave o rappresenta in modo eccessivo una gamma ristretta, il tuo modello rifletterà queste lacune. Ecco perché il rilevamento delle distorsioni nell'IA è un passo fondamentale in ogni pipeline di sviluppo.
Figura 4. Fasi chiave per ridurre i pregiudizi dell'IA e migliorare l'equità.
Inizia analizzando il tuo set di dati. Osserva la distribuzione delle classi, degli ambienti, dell'illuminazione, delle scale degli oggetti e dei dati demografici. Se una categoria domina, è probabile che il tuo modello abbia prestazioni inferiori alle altre.
Successivamente, analizza le prestazioni. Il modello fa peggio in determinate impostazioni o per determinati tipi di oggetti? In questo caso, si tratta di un segno di distorsione appresa e di solito si torna ai dati.
La valutazione a livello di fetta è fondamentale. Un modello potrebbe riportare un'accuratezza media del 90% ma solo del 60% su un gruppo o una condizione specifica. Senza controllare quelle fette, non lo sapresti mai.
L'utilizzo di metriche di equità durante l'addestramento e la valutazione è un altro potente strumento. Queste metriche vanno oltre i punteggi di accuratezza standard e valutano il comportamento del modello in diversi sottoinsiemi di dati. Aiutano a far emergere punti ciechi che altrimenti potrebbero passare inosservati.
La trasparenza nella composizione del set di dati e nei test dei modelli porta a modelli migliori.
Migliorare l'equità attraverso la diversità e l'aumento dei dati
Una volta identificati i pregiudizi, il passo successivo è quello di colmare il divario. Uno dei modi più efficaci per farlo è aumentare la diversità dei dati nei modelli di IA. Ciò significa raccogliere un maggior numero di campioni da scenari sottorappresentati, che si tratti di immagini mediche di popolazioni diverse o di condizioni ambientali insolite.
Aggiungere altri dati può essere prezioso, soprattutto quando aumenta la diversità. Tuttavia, il miglioramento dell'equità dipende anche dalla raccolta dei giusti tipi di esempi. Questi dovrebbero riflettere le variazioni del mondo reale che il tuo modello potrebbe incontrare.
L'aumento dei dati è un'altra strategia preziosa. Capovolgere, ruotare, regolare l'illuminazione e ridimensionare gli oggetti può aiutare a simulare diverse condizioni del mondo reale. L'incremento non solo aumenta la varietà dei dati, ma aiuta anche il modello a diventare più robusto ai cambiamenti di aspetto, illuminazione e contesto.
La maggior parte delle moderne pipeline di formazione include l 'aumento per impostazione predefinita, ma l'uso strategico, come la concentrazione sulla regolazione in base alle esigenze specifiche del compito, è ciò che la rende efficace per l'equità.
Utilizzo di dati sintetici per colmare le lacune
I dati sintetici si riferiscono a dati generati artificialmente che imitano esempi reali. Possono essere uno strumento utile quando alcuni scenari sono troppo rari o troppo sensibili per essere rilevati in natura.
Ad esempio, se stai costruendo un modello per rilevare difetti rari nei macchinari o violazioni del codice della strada, puoi simulare questi casi utilizzando dati sintetici. In questo modo il tuo modello ha l'opportunità di imparare da eventi che potrebbe non incontrare spesso nel tuo set di addestramento.
Alcuni studi hanno scoperto che l'introduzione di dati sintetici mirati nell'addestramento può ridurre le distorsioni dei set di dati e migliorare le prestazioni nei vari gruppi demografici e ambienti.
I dati sintetici danno il meglio se abbinati a campioni reali. Sono complementari al tuo set di dati, non lo sostituiscono.
Come YOLO11 supporta l'IA etica
La creazione di modelli di intelligenza artificiale imparziali dipende anche dagli strumenti che utilizzi. YOLO11 è stato progettato per essere flessibile, facile da mettere a punto e altamente adattabile, il che lo rende particolarmente adatto a ridurre le distorsioni dei dati.
YOLO11 supporta tecniche avanzate di aumento dei dati durante l'addestramento del modello, che introducono contesti di immagini variegati ed esempi misti per migliorare la generalizzazione del modello e ridurre l'overfitting.
YOLO11 presenta anche un'architettura migliorata della spina dorsale e del collo per un'estrazione più efficace delle caratteristiche. Questo aggiornamento migliora la capacità del modello di rilevare i dettagli a grana fine, il che è fondamentale in scenari poco rappresentati o ai margini, dove i modelli standard possono avere difficoltà.
Poiché YOLO11 è semplice da riqualificare e da distribuire in ambienti edge e cloud, i team possono identificare le lacune nelle prestazioni e aggiornare rapidamente il modello quando si scoprono errori sul campo.
L'IA equa non è un obiettivo da raggiungere una volta sola. Si tratta di un ciclo di valutazione, apprendimento e adattamento. Strumenti come YOLO11 aiutano a rendere questo ciclo più veloce e produttivo.
Punti di forza
Le distorsioni dell'intelligenza artificiale influiscono su tutto, dall'equità alle prestazioni. I pregiudizi della computer vision spesso derivano dal modo in cui i set di dati vengono raccolti, etichettati e bilanciati. Fortunatamente, esistono metodi comprovati per individuarli e attenuarli.
Inizia a verificare i tuoi dati e a testare le prestazioni del modello in diversi scenari. Utilizza una raccolta dati mirata, l'incremento e i dati sintetici per creare una migliore copertura di formazione.
YOLO11 supporta questo flusso di lavoro rendendo più semplice l'addestramento di modelli personalizzati, l'applicazione di forti tecniche di incremento e la risposta rapida quando vengono riscontrati dei pregiudizi.
Costruire un'IA equa non è solo la cosa giusta da fare. È anche il modo per costruire sistemi più intelligenti e affidabili.
IT
EN
ZH
KO
JA
RU
DE
FR
ES
PT
AR
TR
VI
