Facendo clic su "Accetta tutti i cookie", acconsenti alla memorizzazione dei cookie sul tuo dispositivo per migliorare la navigazione del sito, analizzare l'utilizzo del sito e contribuire alle nostre iniziative di marketing. Per saperne di più
Impostazioni dei cookie
Facendo clic su "Accetta tutti i cookie", acconsenti alla memorizzazione dei cookie sul tuo dispositivo per migliorare la navigazione del sito, analizzare l'utilizzo del sito e contribuire alle nostre iniziative di marketing. Per saperne di più
Tutto quello che devi sapere sull'AI spiegabile (XAI)
Scopri come Explainable AI (XAI) crea fiducia rendendo le previsioni dell'AI trasparenti e affidabili nei settori della sanità, della sicurezza, della guida autonoma e altro ancora.
Hai mai visto una risposta di uno strumento di intelligenza artificiale (AI) come ChatGPT e ti sei chiesto come sia arrivato a quella conclusione? Allora hai incontrato il problema della "scatola nera" dell'IA. Si tratta di un termine che si riferisce alla mancanza di chiarezza su come i modelli di IA elaborano e analizzano i dati. Anche gli ingegneri e gli scienziati dell'IA che lavorano regolarmente con algoritmi di IA all'avanguardia possono trovare difficile comprendere appieno il loro funzionamento interno. Infatti, solo il 22% dei professionisti IT comprende veramente le capacità degli strumenti di IA.
L'incertezza che circonda il modo in cui i modelli di IA prendono le decisioni può essere rischiosa, soprattutto in aree critiche come la computer vision nella sanità e l'IA nella finanza. Tuttavia, si stanno compiendo progressi significativi per affrontare queste sfide e migliorare la trasparenza.
In particolare, l'AI spiegabile (XAI) si concentra esclusivamente sulla risoluzione di questo problema. In parole povere, si tratta di un insieme di processi e metodi che aiutano gli utenti umani a comprendere e a fidarsi dei risultati o degli output forniti da complessi algoritmi di apprendimento automatico.
XAI può aiutare gli sviluppatori a garantire che i sistemi di IA funzionino come previsto. Può anche aiutare le aziende di IA a rispettare gli standard normativi. In questo articolo esploreremo l'IA spiegabile e la sua vasta gamma di casi d'uso. Iniziamo!
L'importanza di un'intelligenza artificiale spiegabile
La spiegabilità è fondamentale quando si lavora con l'IA. Questo è particolarmente vero quando si tratta del sottocampo dell'IA, la computer vision, che è ampiamente utilizzata in applicazioni in settori come quello sanitario. Quando si utilizzano modelli di visione in settori così delicati, è importante che il funzionamento del modello sia trasparente e interpretabile da tutti.
L'interpretabilità dei modelli di computer vision aiuta gli utenti a capire meglio come è stata fatta una previsione e la logica che la sostiene. La trasparenza contribuisce a rendere chiaro a tutti il funzionamento del modello, illustrandone chiaramente i limiti e garantendo un uso etico dei dati. Ad esempio, la computer vision può aiutare i radiologi a identificare in modo efficiente le complicazioni della salute nelle immagini a raggi X.
Figura 1. Radiografie del torace analizzate con Vision AI che mostrano le classificazioni di tubercolosi sana, malata, attiva e latente.
Tuttavia, un sistema di visione che sia solo accurato non è sufficiente. Il sistema deve anche essere in grado di spiegare le sue decisioni. Se il sistema potesse mostrare quali parti dell'immagine hanno portato alle sue conclusioni, ogni risultato sarebbe più chiaro. Un tale livello di trasparenza aiuterebbe i professionisti del settore medico a ricontrollare le loro scoperte e ad assicurarsi che l'assistenza ai pazienti sia conforme agli standard medici.
Un altro motivo per cui la spiegabilità è essenziale è che rende le aziende di IA responsabili e crea fiducia negli utenti. Un'IA affidabile porta gli utenti a sentirsi sicuri che le innovazioni dell'IA funzionino in modo affidabile, prendano decisioni corrette e gestiscano i dati in modo responsabile.
Le principali tecniche di intelligenza artificiale spiegabili nella computer vision
Ora che abbiamo discusso perché la spiegabilità è importante nella computer vision, diamo un'occhiata alle principali tecniche XAI utilizzate nell'IA della visione.
Mappe di salienza
Le reti neurali sono modelli ispirati al cervello umano, progettati per riconoscere schemi e prendere decisioni elaborando i dati attraverso strati interconnessi di nodi (neuroni). Possono essere utilizzate per risolvere complessi problemi di computer vision con un'elevata precisione. Anche con questa accuratezza, sono ancora delle scatole nere per concezione.
Le mappe di salienza sono una tecnica XAI che può essere utilizzata per dare un senso a ciò che le reti neurali vedono quando analizzano le immagini. Può anche essere utilizzata per risolvere i problemi dei modelli nel caso in cui non funzionino come previsto.
Le mappe di salienza funzionano concentrandosi su quali parti di un'immagine (pixel) definiscono le previsioni di un modello. Questo processo è molto simile alla retropropagazione, in cui il modello risale dalle previsioni all'input. Ma invece di aggiornare i pesi del modello in base agli errori, ci limitiamo a osservare quanto ogni pixel "conta" per la previsione. Le mappe di salienza sono molto utili per le attività di computer vision come la classificazione delle immagini.
Ad esempio, se un modello di classificazione delle immagini prevede che un'immagine sia di un cane, possiamo osservare la sua mappa di salienza per capire perché il modello pensa che si tratti di un cane. Questo ci aiuta a identificare quali pixel influenzano maggiormente l'output. La mappa di salienza evidenzia tutti i pixel che hanno contribuito alla previsione finale che l'immagine sia un cane.
Figura 2. Vista laterale delle immagini in ingresso e delle relative mappe di salienza.
Mappatura dell'attivazione della classe (CAM)
La mappatura dell'attivazione delle classi è un'altra tecnica XAI utilizzata per capire quali sono le parti di un'immagine su cui si concentra una rete neurale quando fa previsioni sulla classificazione delle immagini. Funziona in modo simile alle mappe di salienza, ma si concentra sull'identificazione di caratteristiche importanti nell'immagine invece che su pixel specifici. Le caratteristiche sono modelli o dettagli, come forme o texture, che il modello rileva nell'immagine.
Metodi come Gradient Weighted Class Activation Mapping (Grad-CAM) e Grad-CAM++ si basano sulla stessa idea, con alcuni miglioramenti.
Ecco come funziona la CAM:
Prima che la rete neurale prenda la sua decisione finale, utilizza una fase chiamata global average pooling (GAP) per semplificare le informazioni. Il GAP combina tutti i pixel di un modello rilevato in un unico valore medio, creando un riepilogo per ogni mappa di caratteristiche (una rappresentazione visiva dei modelli rilevati).
A ogni mappa di caratteristiche viene poi assegnato un peso che indica quanto sia importante per prevedere una determinata classe (come "uccello" o "gatto").
Tuttavia, una limitazione di CAM è che potrebbe essere necessario riqualificare il modello per calcolare questi pesi, il che può richiedere molto tempo.
Grad-CAM migliora questo aspetto utilizzando i gradienti, che sono come segnali che mostrano quanto ogni mappa di caratteristiche influisce sulla previsione finale. Questo metodo evita la necessità di GAP e rende più facile vedere su cosa si concentra il modello senza doverlo riqualificare. Grad-CAM++ fa un ulteriore passo avanti concentrandosi solo sulle influenze positive, rendendo i risultati ancora più chiari.
Figura 3. Confronto tra CAM, Grad-CAM e Grad-CAM++.
Spiegazioni controfattuali
Le spiegazioni controfattuali sono un elemento importante dell'IA spiegabile. Una spiegazione controfattuale consiste nel descrivere una situazione o un risultato prendendo in considerazione scenari o eventi alternativi che non si sono verificati ma che sarebbero potuti accadere. Può dimostrare come il cambiamento di specifiche variabili di input porti a risultati diversi, come ad esempio: "Se X non fosse accaduto, Y non si sarebbe verificato".
Nel campo dell'intelligenza artificiale e della computer vision, una spiegazione controfattuale identifica il più piccolo cambiamento necessario in un input (come un'immagine o dei dati) per far sì che un modello di intelligenza artificiale produca un risultato diverso e specifico. Ad esempio, modificando il colore di un oggetto in un'immagine si potrebbe cambiare la previsione di un modello di classificazione delle immagini da "gatto" a "cane".
Un altro buon esempio potrebbe essere la modifica dell'angolazione o dell'illuminazione in un sistema di riconoscimento facciale. Questo potrebbe far sì che il modello identifichi un individuo diverso, mostrando come piccoli cambiamenti nell'input possano influenzare le previsioni del modello.
Il modo più semplice per creare queste spiegazioni è quello di procedere per tentativi: puoi cambiare casualmente alcune parti dell'input (come le caratteristiche dell'immagine o dei dati) finché il modello di intelligenza artificiale non ti dà il risultato desiderato. Altri metodi includono gli approcci "model-agnostic", che utilizzano tecniche di ottimizzazione e ricerca per trovare le modifiche, e gli approcci specifici per il modello, che si basano su impostazioni o calcoli interni per identificare le modifiche necessarie.
Applicazioni dell'intelligenza artificiale spiegabile nella computer vision
Ora che abbiamo esplorato cos'è l'XAI e le sue tecniche chiave, possiamo vedere come viene utilizzato nella vita reale. La XAI ha diverse applicazioni in molti campi. Vediamo alcuni casi d'uso che ne evidenziano il potenziale:
Sistemi di sicurezza: XAI può essere utilizzato per migliorare i sistemi di sicurezza rilevando le immagini modificate nei documenti di identificazione come passaporti e patenti di guida. In questo modo si garantisce l'autenticità delle immagini, si rafforzano i processi di verifica dell'identità e si prevengono le attività fraudolente nelle applicazioni sensibili.
Figura 4. Come funziona XAI per rilevare le immagini morphed.
Guida autonoma: Capire le capacità e i limiti del sistema Vision AI a bordo di un'auto a guida autonoma può essere una parte importante dei test prima che l'auto venga distribuita sulle strade del mondo reale. L'XAI può aiutare le aziende automobilistiche a identificare e affrontare i problemi in modo più chiaro.
Sistemi legali: I sistemi di analisi dei documenti basati sulla visione sono sempre più utilizzati nei processi decisionali giudiziari. La XAI favorisce l'equità dei risultati e permette di controllare le sentenze automatizzate. Inoltre, aiuta i professionisti del diritto a capire come un modello di IA raggiunge le sue decisioni.
Monitoraggio della fauna selvatica: Le trappole fotografiche sono spesso utilizzate per monitorare la fauna selvatica e raccogliere dati sulle specie animali. XAI può essere utilizzato per spiegare come l'AI classifica queste specie nelle immagini. In questo modo, gli sforzi di conservazione possono essere più affidabili e accurati.
I punti chiave dell'IA spiegabile
L'IA spiegabile rende più facile capire come funzionano i sistemi di IA e perché prendono determinate decisioni. La trasparenza sui modelli di IA crea fiducia e responsabilità. La conoscenza è potere e aiuta le innovazioni dell'IA a essere utilizzate in modo più responsabile. In aree critiche come l'assistenza sanitaria, la sicurezza, la guida autonoma e i sistemi legali, XAI può essere utilizzato per aiutare gli sviluppatori e gli utenti a comprendere le previsioni dell'IA, a identificare gli errori e a garantire un uso equo ed etico. Rendendo l'IA più trasparente, XAI colma il divario tra tecnologia e fiducia umana, rendendola più sicura e affidabile per le applicazioni reali.
