LoRA (Low-Rank Adaptation)

Come funziona la LoRA

La messa a punto tradizionale prevede l'aggiornamento di tutti i parametri (o pesi del modello) di un modello pre-addestrato utilizzando nuovi dati. Nel caso di modelli con miliardi di parametri, questo processo richiede notevoli risorse computazionali, in particolare GPU e tempo. LoRA si basa sul principio che le modifiche necessarie per adattare un modello spesso risiedono in uno spazio di dimensioni inferiori.

Invece di modificare tutti i pesi originali, LoRA li congela e inietta matrici "low-rank" più piccole e addestrabili in strati specifici dell'architettura del modello, spesso all'interno dei blocchi Transformer. Solo queste matrici appena aggiunte (adattatori) vengono aggiornate durante il processo di messa a punto. In questo modo si riduce drasticamente il numero di parametri addestrabili, spesso di ordini di grandezza, pur ottenendo prestazioni paragonabili a quelle di una messa a punto completa in molti casi. Il documento di ricerca originale di LoRA fornisce ulteriori dettagli tecnici sulla metodologia.

Rilevanza e vantaggi

Il vantaggio principale del LoRA è la sua efficienza:

• Costo computazionale ridotto: L'addestramento richiede una quantità di memoria e di tempo GPU significativamente inferiore rispetto alla messa a punto completa.
• Ingombro di memoria ridotto: Invece di salvare un modello completo e ottimizzato per ogni attività, è necessario memorizzare solo i piccoli pesi dell'adattatore LoRA. Questo è molto vantaggioso quando si gestiscono più modelli personalizzati.
• Cambio di attività più rapido: l 'adattamento del modello di base a diverse attività può essere fatto rapidamente scambiando semplicemente i pesi dell'adattatore LoRA corrispondente.
• Accessibilità: Consente la messa a punto di modelli di grandi dimensioni su hardware di livello consumer o su ambienti con risorse limitate come i dispositivi di edge computing.
• Prestazioni comparabili: Spesso raggiunge livelli di accuratezza vicini a quelli ottenuti con una messa a punto completa del modello.

Applicazioni della LoRA

L'efficienza di LoRA la rende preziosa in diversi ambiti:

• Personalizzazione di grandi modelli linguistici (LLM): Adattare LLM fondamentali come GPT-4 o alternative open-source per compiti specializzati come la generazione di testo in uno stile specifico, la creazione di chatbot specifici per il settore o il miglioramento delle prestazioni su set di dati di domande e risposte di nicchia. Ad esempio, un'azienda potrebbe utilizzare LoRA per perfezionare un chatbot generico per il servizio clienti in modo da comprendere il gergo specifico del settore e fornire risposte più pertinenti senza dover riqualificare l'intero LLM di base. La libreria PEFT diHugging Face offre strumenti per implementare LoRA e altre tecniche simili.
• Adattare i modelli di visione: Ottimizzare in modo efficiente i modelli di visione computerizzata di grandi dimensioni, tra cui Ultralytics YOLO per compiti specifici di rilevamento di oggetti o segmentazione di immagini. Ad esempio, l'adattamento di un modello pre-addestrato su un ampio set di dati come COCO per rilevare con precisione difetti unici in un processo di controllo della qualità di produzione, oppure l'identificazione di specie animali specifiche nell'ambito della conservazione della fauna selvatica utilizzando immagini di trappole fotografiche.
• AI personalizzata: creazione di esperienze utente personalizzate adattando i modelli alle preferenze o ai dati individuali con un overhead minimo.
• Analisi delle immagini mediche: Messa a punto di modelli per compiti diagnostici specializzati basati su scansioni mediche, adattandosi a modalità di imaging specifiche o a popolazioni di pazienti. Piattaforme come Ultralytics HUB possono aiutare a gestire i modelli adattati con tecniche come LoRA per vari scenari di implementazione.