L'AI costituzionale mira ad allineare i modelli di AI con i valori umani

Che cos'è l'IA costituzionale?

L'IA costituzionale è un metodo di addestramento dei modelli che guida il comportamento dei modelli di IA fornendo un chiaro insieme di regole etiche. Queste regole agiscono come un codice di condotta. Invece di affidarsi al modello per dedurre ciò che è accettabile, esso segue una serie di principi scritti che modellano le sue risposte durante l'addestramento.

Questo concetto è stato introdotto da Anthropic, una società di ricerca incentrata sulla sicurezza dell'IA che ha sviluppato la famiglia Claude LLM come metodo per rendere i sistemi di IA più auto-supervisionati nel loro processo decisionale. 

Invece di affidarsi esclusivamente al feedback umano, il modello impara a criticare e a perfezionare le proprie risposte sulla base di una serie di principi predefiniti. Questo approccio è simile a quello di un sistema legale, in cui un giudice fa riferimento a una costituzione prima di emettere una sentenza.

In questo caso, il modello diventa sia il giudice che lo studente, utilizzando lo stesso insieme di regole per rivedere e perfezionare il proprio comportamento. Questo processo rafforza l'allineamento dei modelli di IA e supporta lo sviluppo di sistemi di IA sicuri e responsabili.

Come funziona l'intelligenza artificiale costituzionale?

L'obiettivo dell'IA costituzionale è insegnare a un modello di IA come prendere decisioni sicure ed eque seguendo un chiaro insieme di regole scritte. Ecco una semplice descrizione di come funziona questo processo:

• Definizione della costituzione: Viene creato un elenco scritto di principi etici che il modello dovrebbe seguire. La costituzione delinea ciò che l'IA dovrebbe evitare e quali valori dovrebbe riflettere.
  
  
• Formazione con supervisionato esempi: Al modello vengono mostrati esempi di risposte che seguono la costituzione. Questi esempi aiutano l'IA a capire qual è il comportamento accettabile.
  
  
• Riconoscere e applicare i modelli: Con il tempo, il modello inizia a riconoscere questi schemi. Impara ad applicare gli stessi valori quando risponde a nuove domande o gestisce nuove situazioni.
  
  
• Criticare e perfezionare i risultati: Il modello rivede le proprie risposte e le aggiusta in base alla costituzione. Questa fase di auto-revisione lo aiuta a migliorare senza fare affidamento solo sul feedback umano.
  
  
• Produce risposte allineate e più sicure: Il modello impara da regole coerenti, il che aiuta a ridurre i pregiudizi e a migliorare l'affidabilità nell'uso reale. Questo approccio lo rende più in linea con i valori umani e più facile da governare.

‍

Principi fondamentali della progettazione etica dell'intelligenza artificiale

Affinché un modello di IA segua le regole etiche, queste devono essere prima definite con chiarezza. Quando si parla di IA costituzionale, queste regole si basano su una serie di principi fondamentali. 

Ad esempio, ecco quattro principi che costituiscono le fondamenta di una costituzione efficace dell'IA:

• Trasparenza: Deve essere facile capire come un modello sia arrivato a una risposta. Se una risposta si basa su fatti, stime o modelli, sarà trasparente per l'utente. Questo crea fiducia e aiuta le persone a valutare se possono fare affidamento sui risultati del modello.
  
  
• Uguaglianza: Le risposte devono essere coerenti tra i diversi utenti. Il modello non deve cambiare i suoi risultati in base al nome, al background o alla posizione di una persona. L'uguaglianza aiuta a prevenire i pregiudizi e promuove la parità di trattamento.
  
  
• Responsabilità: Dovrebbe esserci un modo per tracciare come un modello è stato addestrato e cosa ha influenzato il suo comportamento. Quando qualcosa va storto, i team devono essere in grado di identificare la causa e migliorarla. Questo favorisce la trasparenza e la responsabilità a lungo termine.
  
  
• Sicurezza: I modelli devono evitare di produrre contenuti che possano causare danni. Se una richiesta porta a risultati rischiosi o non sicuri, il sistema deve riconoscerlo e fermarsi. Questo protegge sia l'utente che l'integrità del sistema.

Esempi di AI costituzionale in modelli linguistici di grandi dimensioni

L'IA costituzionale è passata dalla teoria alla pratica e ora viene lentamente utilizzata in modelli di grandi dimensioni che interagiscono con milioni di utenti. Due degli esempi più comuni sono gli LLM di OpenAI e Anthropic. 

Sebbene entrambe le organizzazioni abbiano adottato approcci diversi per creare sistemi di intelligenza artificiale più etici, condividono un'idea comune: insegnare al modello a seguire una serie di principi guida scritti. Diamo un'occhiata più da vicino a questi esempi.

L'approccio costituzionale di OpenAI all'intelligenza artificiale

OpenAI ha introdotto un documento chiamato Model Spec come parte del processo di formazione dei suoi modelli ChatGPT . Questo documento agisce come una sorta di costituzione. Descrive gli obiettivi che il modello deve perseguire nelle sue risposte, compresi valori come la disponibilità, l'onestà e la sicurezza. Definisce inoltre cosa si intende per output dannoso o fuorviante. 

Questa struttura è stata utilizzata per perfezionare i modelli di OpenAI, valutando le risposte in base alla loro corrispondenza alle regole. Nel corso del tempo, questo ha contribuito a dare forma a ChatGPT in modo che produca meno risultati dannosi e si allinei meglio a ciò che gli utenti vogliono effettivamente. 

‍

I modelli di AI etici di Anthropic

La costituzione che il modello di Anthropic, Claude, segue si basa su principi etici provenienti da fonti come la Dichiarazione Universale dei Diritti Umani, linee guida di piattaforme come i termini di servizio di Apple e ricerche di altri laboratori di IA. Questi principi aiutano a garantire che le risposte di Claude siano sicure, corrette e in linea con importanti valori umani.

Claude utilizza anche il Reinforcement Learning from AI Feedback (RLAIF), in cui rivede e regola le proprie risposte sulla base di queste linee guida etiche, anziché affidarsi al feedback umano. Questo processo permette a Claude di migliorare nel tempo, rendendolo più scalabile e in grado di fornire risposte utili, etiche e non dannose, anche in situazioni difficili.

‍

Applicare l'IA costituzionale alla computer vision

Dato che l'AI costituzionale sta influenzando positivamente il comportamento dei modelli linguistici, viene spontaneo chiedersi se un approccio simile possa aiutare i sistemi di visione a rispondere in modo più equo e sicuro: Un approccio simile potrebbe aiutare i sistemi basati sulla visione a rispondere in modo più equo e sicuro? 

Anche se i modelli di computer vision lavorano con le immagini invece che con il testo, la necessità di una guida etica è altrettanto importante. Ad esempio, l'equità e la parzialità sono fattori chiave da considerare, in quanto questi sistemi devono essere addestrati per trattare tutti allo stesso modo ed evitare risultati dannosi o ingiusti quando analizzano i dati visivi.

‍

Al momento, l'uso di metodi costituzionali di IA nella computer vision è ancora in fase di esplorazione ed è agli inizi, con ricerche in corso in questo settore.

Ad esempio, Meta ha recentemente presentato CLUE, un framework che applica il ragionamento di tipo costituzionale ai compiti di sicurezza delle immagini. Trasforma le regole di sicurezza generali in passi precisi che l'AI multimodale (sistemi di AI che elaborano e comprendono diversi tipi di dati) può seguire. Questo aiuta il sistema a ragionare in modo più chiaro e a ridurre i risultati dannosi. 

Inoltre, CLUE rende più efficienti i giudizi sulla sicurezza delle immagini semplificando le regole complesse, consentendo ai modelli di intelligenza artificiale di agire in modo rapido e accurato senza dover ricorrere a un'intensa attività umana. Utilizzando una serie di principi guida, CLUE rende i sistemi di moderazione delle immagini più scalabili, garantendo al contempo risultati di alta qualità.

Punti di forza

Man mano che i sistemi di intelligenza artificiale assumono maggiori responsabilità, l'attenzione si sta spostando da ciò che possono fare a ciò che dovrebbero fare. Questo passaggio è fondamentale perché questi sistemi vengono utilizzati in settori che hanno un impatto diretto sulla vita delle persone, come l'assistenza sanitaria, le forze dell'ordine e l'istruzione. 

Per garantire che i sistemi di intelligenza artificiale agiscano in modo appropriato ed etico, hanno bisogno di una base solida e coerente. Questa base dovrebbe dare priorità all'equità, alla sicurezza e alla fiducia. 

Una costituzione scritta può fornire queste basi durante la formazione, guidando il processo decisionale del sistema. Può anche fornire agli sviluppatori un quadro di riferimento per rivedere e regolare il comportamento del sistema dopo l'implementazione, assicurando che continui ad allinearsi con i valori che è stato progettato per sostenere e rendendo più facile l'adattamento quando si presentano nuove sfide.

Unisciti alla nostra comunità in crescita! Approfondisci il tema dell'intelligenza artificiale esplorando il nostro repository GitHub. Vuoi creare i tuoi progetti di computer vision? Esplora le nostre opzioni di licenza. Scopri come la computer vision nel settore sanitario sta migliorando l'efficienza ed esplora l'impatto dell'IA nel settore manifatturiero visitando le nostre pagine dedicate alle soluzioni!