Sintonizzazione dei prompt

Come funziona la sintonizzazione dei prompt

Nel Prompt Tuning, l'idea centrale è quella di mantenere congelata la maggior parte dei parametri del modello pre-addestrato. Quando si adatta il modello per un'attività come l'analisi del sentimento o la generazione di testi, invece di regolare i miliardi di pesi e bias. weights and biases all'interno del modello, viene addestrato solo un piccolo insieme di parametri (i soft prompt embeddings) utilizzando la discesa del gradiente. Questi embeddings appresi agiscono come istruzioni o contesto, guidando il modello congelato a produrre l'output desiderato per il compito specifico. Si tratta di una forma di fine-tuning efficiente dal punto di vista dei parametri (PEFT), che abbassa drasticamente la barriera alla specializzazione di modelli di base massicci.

Vantaggi della messa a punto tempestiva

Il Prompt Tuning offre diversi vantaggi:

• Efficienza computazionale: Richiede una quantità di calcolo e di memoria significativamente inferiore rispetto alla messa a punto completa, poiché solo una piccola parte dei parametri viene aggiornata durante l'addestramento.
• Riduzione dello spazio di archiviazione: Per ogni attività è necessario memorizzare solo il piccolo insieme di incorporazioni richieste, anziché una copia completa del modello ottimizzato.
• Adattamento più rapido: L'addestramento di suggerimenti specifici per le attività è molto più rapido rispetto alla messa a punto dell'intero modello.
• Attenuazione dell'oblio catastrofico: Poiché i parametri originali del modello rimangono invariati, il modello mantiene le sue capacità generali apprese durante il pre-addestramento, evitando il problema per cui la messa a punto su un compito degrada le prestazioni su altri(interferenza catastrofica).
• Distribuzione semplificata: È possibile utilizzare diversi prompt specifici per le attività con un unico modello centrale condiviso, semplificando la distribuzione e la gestione del modello nelle pipeline MLOps.

Applicazioni del mondo reale

Il Prompt Tuning è particolarmente efficace per personalizzare i modelli linguistici di grandi dimensioni per applicazioni specializzate:

1. Chatbot personalizzati per il servizio clienti: Un'azienda può prendere un LLM generale pre-addestrato come il GPT-4 e utilizzare il Prompt Tuning per creare messaggi specializzati per diverse aree di assistenza (ad esempio, fatturazione, assistenza tecnica, richieste di prodotti). Ciascuna richiesta guida il modello di base a rispondere in modo appropriato in quel contesto specifico, utilizzando il linguaggio e le conoscenze specifiche dell'azienda, senza dover ricorrere a modelli separati e ottimizzati. Questo permette di scalare in modo efficiente le capacità del chatbot.
2. Generazione di contenuti specializzati: Un'agenzia di marketing potrebbe utilizzare Prompt Tuning per adattare un modello di generazione di testo di grandi dimensioni per creare contenuti con voci o stili specifici del marchio (ad esempio, relazioni formali, post di blog informali, testi pubblicitari accattivanti). Per ogni stile vengono addestrati prompt separati, consentendo allo stesso potente modello di base di organizzazioni come OpenAI o Google AI di essere versatile per le diverse esigenze dei clienti.

Sintonizzazione del prompt e concetti correlati

È importante distinguere il Prompt Tuning da tecniche simili:

• Messa a punto: Comporta l'aggiornamento di gran parte, o addirittura di tutti, i parametri del modello pre-addestrato su un nuovo set di dati. Si tratta di un'operazione più impegnativa dal punto di vista computazionale, ma che a volte permette di ottenere prestazioni più elevate adattando profondamente le rappresentazioni interne del modello. I suggerimenti per l'addestramento dei modelli riguardano spesso aspetti della messa a punto.
• Ingegneria tempestiva: Si concentra sulla progettazione manuale di prompt efficaci basati sul testo (hard prompt) per ottenere il comportamento desiderato da un modello preaddestrato congelato. Si tratta di creare istruzioni ed esempi all'interno del testo di input stesso e non comporta l'addestramento di nuovi parametri. Tecniche come il prompt a catena di pensieri rientrano in questa categoria.
• Arricchimento dei promemoria: Migliora automaticamente la richiesta di input dell'utente aggiungendo un contesto o informazioni rilevanti (ad esempio, utilizzando la Retrieval-Augmented Generation (RAG)) prima che venga elaborata dal modello di intelligenza artificiale. A differenza della sintonizzazione dei prompt, non modifica il modello o i parametri di addestramento, ma perfeziona la richiesta di input.
• LoRA (Low-Rank Adaptation): Un'altra tecnica PEFT che inietta piccole matrici a basso rango addestrabili negli strati esistenti (come il meccanismo di attenzione) del modello pre-addestrato. Aggiorna diverse parti del modello rispetto al Prompt Tuning, che si concentra esclusivamente sugli embeddings in ingresso. Entrambi si trovano spesso in librerie come la libreriaHugging Face PEFT.

Sebbene il Prompt Tuning sia applicato prevalentemente ai LLM nell'elaborazione del linguaggio naturale (NLP), il principio fondamentale dell'adattamento efficiente è rilevante in tutta l'intelligenza artificiale (AI). Nella Visione Artificiale (CV), mentre la messa a punto completa di modelli quali Ultralytics YOLO su set di dati personalizzati è comune per compiti come il rilevamento di oggetti, i metodi PEFT stanno guadagnando terreno, soprattutto per i modelli multimodali di grandi dimensioni. Piattaforme come Ultralytics HUB semplificano il processo di addestramento e distribuzione di vari modelli di IA, e potenzialmente potranno incorporare queste tecniche efficienti in futuro.

In sintesi, il Prompt Tuning offre un metodo potente ed efficiente per specializzare modelli pre-addestrati di grandi dimensioni come gli LLM per compiti diversi, bilanciando le prestazioni con la fattibilità computazionale. Rappresenta un progresso fondamentale per rendere più adattabili e accessibili i potenti modelli di intelligenza artificiale.