LoRA (Low-Rank Adaptation)

Como funciona o LoRA

O ajuste fino tradicional envolve a atualização de todos os parâmetros (ou pesos do modelo) de um modelo pré-treinado utilizando novos dados. Para modelos com milhares de milhões de parâmetros, este processo exige recursos computacionais substanciais, nomeadamente GPU memória e tempo. O LoRA funciona com base no princípio de que as alterações necessárias para adaptar um modelo residem frequentemente num espaço de dimensão inferior.

Em vez de modificar todos os pesos originais, o LoRA congela-os e injeta matrizes "low-rank" mais pequenas e treináveis em camadas específicas da arquitetura do modelo, muitas vezes dentro de blocos Transformer. Apenas essas matrizes recém-adicionadas (adaptadores) são atualizadas durante o processo de ajuste fino. Isto reduz drasticamente o número de parâmetros treináveis, muitas vezes por ordens de grandeza, ao mesmo tempo que consegue um desempenho comparável ao ajuste fino completo em muitos casos. O documento original de investigação LoRA fornece mais pormenores técnicos sobre a metodologia.

Relevância e benefícios

A principal vantagem do LoRA é a sua eficiência:

• Custo computacional reduzido: O treinamento requer muito menos memória e tempo de GPU em comparação com o ajuste fino completo.
• Menor espaço de armazenamento: Em vez de guardar um modelo completo e afinado para cada tarefa, só precisa de guardar os pequenos pesos do adaptador LoRA. Isto é altamente benéfico quando geres vários modelos personalizados.
• Troca de tarefas mais rápida: A adaptação do modelo básico a diferentes tarefas pode ser feita rapidamente, bastando trocar os pesos correspondentes do adaptador LoRA.
• Acessibilidade: Permite o ajuste fino de modelos grandes em hardware de consumo ou em ambientes com recursos limitados, como dispositivos de computação de ponta.
• Desempenho comparável: Atinge frequentemente níveis de precisão próximos dos obtidos com o ajuste fino do modelo.

Aplicações do LoRA

A eficiência do LoRA torna-o valioso em vários domínios:

• Personalização de grandes modelos de linguagem (LLMs): Adaptar LLMs fundamentais como o GPT-4 ou alternativas de código aberto para tarefas especializadas, como gerar texto num estilo específico, criar chatbots específicos de um domínio ou melhorar o desempenho em conjuntos de dados de resposta a perguntas de nicho. Por exemplo, uma empresa pode usar o LoRA para ajustar um chatbot de atendimento ao cliente geral para entender o jargão específico do setor e fornecer respostas mais relevantes sem treinar novamente todo o LLM básico. A biblioteca PEFT daHugging Face oferece ferramentas para implementar LoRA e outras técnicas semelhantes.
• Adaptação de modelos de visão: Afina eficientemente grandes modelos de visão computacional, incluindo Ultralytics YOLO da Ultralytics, para tarefas específicas de deteção de objectos ou segmentação de imagens. Por exemplo, adaptar um modelo pré-treinado num vasto conjunto de dados como o COCO para detetar com precisão defeitos únicos num processo de controlo de qualidade de fabrico, ou identificar espécies animais específicas em esforços de conservação da vida selvagem utilizando imagens de armadilhas fotográficas.
• IA personalizada: Criar experiências de utilizador personalizadas, adaptando modelos a preferências ou dados individuais com o mínimo de despesas gerais.
• Análise de imagens médicas: Ajustar modelos para tarefas de diagnóstico especializadas com base em exames médicos, adaptando-se a modalidades de imagem específicas ou a populações de pacientes. Plataformas como o Ultralytics HUB podem ajudar a gerir modelos adaptados utilizando técnicas como o LoRA para vários cenários de implementação.