Modelli da sequenza a sequenza

Architettura encoder-decoder

La struttura fondamentale della maggior parte dei modelli Seq2Seq è l'architettura encoder-decoder:

1. Codificatore: Questa parte elabora l'intera sequenza di input (ad esempio, una frase in francese) passo dopo passo, in genere utilizzando una rete neurale ricorrente (RNN) come la LSTM (Long Short-Term Memory) o la GRU (Gated Recurrent Unit). Il suo obiettivo è comprimere le informazioni della sequenza di input in una rappresentazione interna di dimensioni fisse, spesso chiamata "vettore di contesto" o "vettore di pensiero". Questo vettore mira a catturare l'essenza o il significato della sequenza di input.
2. Decodificatore: Questa parte prende il vettore di contesto generato dall'encoder e produce passo dopo passo la sequenza di output (ad esempio, la frase tradotta in English). In genere si tratta di una RNN che genera un elemento (come una parola o un carattere) a ogni passo temporale, condizionato dal vettore di contesto e dagli elementi generati nei passi precedenti.

Un miglioramento significativo di questa struttura di base è stata l'introduzione del meccanismo di attenzione, descritto in dettaglio nell'articolo di Bahdanau et al."Neural Machine Translation by Jointly Learning to Align and Translate". L'attenzione permette al decodificatore di concentrarsi selettivamente su diverse parti della sequenza di ingresso quando genera ogni elemento della sequenza di uscita, invece di affidarsi esclusivamente al singolo vettore di contesto di dimensioni fisse. Ciò ha migliorato notevolmente le prestazioni, soprattutto per le sequenze lunghe. Questo concetto ha aperto la strada ad architetture come il Transformer, che si basa interamente sui meccanismi di attenzione, rinunciando completamente alla ricorrenza e diventando la base per modelli come BERT e GPT.

Applicazioni del mondo reale

I modelli Seq2Seq eccellono nelle attività in cui l'input e l'output sono sequenziali ma possono non avere una corrispondenza uno-a-uno in termini di lunghezza o struttura. Le applicazioni principali includono:

• Traduzione automatica: Traduzione di testi da una lingua all'altra (ad esempio, servizi come Google Translate o DeepL Translator). Questo è stato uno dei primi grandi successi dei modelli Seq2Seq.
• Riassunto del testo: Generazione di un riassunto conciso da un documento o articolo più lungo. L'input è la sequenza di testo lunga e l'output è la sequenza di riassunto più breve.
• IA conversazionale / Chatbot: Generazione di risposte in un sistema di dialogo. L'input è la domanda o l'affermazione dell'utente e l'output è la risposta del chatbot. Piattaforme come Google Dialogflow utilizzano queste tecnologie.
• Riconoscimento vocale: Conversione dell'audio parlato (una sequenza di caratteristiche audio) in testo (una sequenza di parole).
• Didascalia di immagini: Generazione di una descrizione testuale (sequenza di output) per un'immagine (sequenza di input, spesso rappresentata come caratteristiche estratte da una CNN). Anche se l'input non è strettamente sequenziale, il processo di generazione dell'output rientra nel paradigma Seq2Seq.
• Generazione di codice: Generating programming code based on natural language descriptions.

Concetti e considerazioni chiave

La costruzione e l'addestramento dei modelli Seq2Seq implica diversi concetti importanti:

• Embeddings: Le parole o i token in ingresso vengono tipicamente convertiti in rappresentazioni vettoriali dense prima di essere inseriti nel codificatore.
• Backpropagation Through Time (BPTT): Il metodo standard per addestrare le RNN dispiegando la rete sulla lunghezza della sequenza.
• Gestione di sequenze lunghe: Le RNN di base hanno difficoltà a gestire le dipendenze lunghe a causa di problemi come il problema del gradiente che svanisce. Le LSTM e le GRU sono state progettate per attenuare questo problema e i meccanismi di attenzione migliorano ulteriormente le prestazioni sulle sequenze lunghe. I modelli trasformatori eccellono in questo campo.
• Metriche di valutazione: A seconda dell'attività, vengono utilizzate metriche come BLEU (per la traduzione), ROUGE (per la sintesi) o accuratezza/F1-score (per l'etichettatura delle sequenze). Ultralytics fornisce indicazioni sulle metriche di prestazione.

Seq2Seq vs. altre architetture

Sebbene i modelli Seq2Seq basati sulle RNN siano stati rivoluzionari, il campo si è evoluto:

• RNN standard: In genere mappano sequenze a sequenze della stessa lunghezza o classificano intere sequenze, senza la flessibilità della struttura encoder-decoder per lunghezze di uscita variabili.
• I trasformatori: Ora dominano molte attività di NLP precedentemente gestite da modelli Seq2Seq basati su RNN. Utilizzano l'auto-attenzione e le codifiche posizionali invece della ricorrenza, consentendo una migliore parallelizzazione e catturando in modo più efficace le dipendenze a lungo raggio. Modelli come RT-DETR di Baidu, supportato da Ultralytics, incorporano componenti Transformer per il rilevamento degli oggetti.
• CNN: Utilizzate principalmente per dati di tipo reticolare come le immagini (ad es. Ultralytics YOLO per il rilevamento e la segmentazione), anche se a volte vengono adattate per compiti di sequenza.

Sebbene Seq2Seq si riferisca spesso alla struttura encoder-decoder basata su RNN, il principio generale di mappare le sequenze in ingresso a quelle in uscita utilizzando una rappresentazione intermedia rimane centrale per molte architetture moderne, compresi i trasformatori utilizzati nella traduzione e nella sintesi. Strumenti come PyTorch e TensorFlow forniscono blocchi di costruzione per implementare modelli di sequenze sia tradizionali che moderni. La gestione del processo di formazione può essere semplificata utilizzando piattaforme come Ultralytics HUB.