Aprendizagem Contrastiva

Como é que funciona?

O processo de aprendizagem contrastiva gira em torno da criação de amostras positivas e negativas. Para um determinado ponto de dados, designado por "âncora", o modelo é treinado da seguinte forma:

1. Pares positivos: Um par positivo consiste na âncora e num ponto de dados que é semanticamente semelhante a ela. Na visão por computador (CV), uma amostra positiva é muitas vezes criada através da aplicação de um forte aumento de dados (como o corte aleatório, a rotação ou a variação de cor) à imagem âncora. Tanto a âncora como a versão aumentada são consideradas um par positivo porque têm origem na mesma imagem de origem.
2. Pares negativos: Um par negativo consiste na âncora e num ponto de dados que é dissemelhante. Numa configuração típica, todas as outras imagens de um lote de treino são tratadas como amostras negativas.
3. Objetivo de formação: O modelo, muitas vezes uma rede neural convolucional (CNN), processa estes pares e é optimizado utilizando uma função de perda contrastiva, como a InfoNCE ou a Perda de Tripletos. Esta função de perda penaliza o modelo quando os pares negativos estão demasiado próximos ou os pares positivos estão demasiado afastados no espaço de incorporação. Trabalhos de investigação de referência como o SimCLR e o MoCo fizeram avançar significativamente estas técnicas.

Aplicações no mundo real

A aprendizagem contrastiva é excelente em modelos de pré-treino para aprender representações de caraterísticas poderosas que podem depois ser ajustadas para tarefas específicas.

• Pesquisa visual e recuperação de imagens: No comércio eletrónico, um utilizador pode querer encontrar produtos visualmente semelhantes a uma imagem que carregou. Um modelo pré-treinado com aprendizagem contrastiva pode mapear imagens para um espaço vetorial onde itens semelhantes são agrupados. Isto permite uma pesquisa semântica eficiente e sistemas de recomendação, que são cruciais para melhorar a experiência do cliente em IA no retalho.
• Pré-treino para tarefas a jusante: Modelos como o Ultralytics YOLO11 podem beneficiar de pré-treino em grandes conjuntos de dados não rotulados, utilizando métodos contrastivos. Isto ajuda o modelo a aprender caraterísticas visuais robustas antes de ser afinado num conjunto de dados mais pequeno e rotulado para tarefas como a deteção de objectos ou a segmentação de instâncias. Esta abordagem conduz frequentemente a um melhor desempenho e a uma convergência mais rápida, especialmente quando os dados etiquetados são escassos, um conceito conhecido como aprendizagem de poucos disparos.

Aprendizagem Contrastiva vs. Outros Paradigmas

É útil distinguir a aprendizagem contrastiva dos paradigmas relacionados:

• Aprendizagem supervisionada: Depende inteiramente de dados meticulosamente rotulados, como imagens com caixas delimitadoras para tarefas de deteção de objectos. Em contrapartida, a aprendizagem contrastiva gera os seus próprios sinais de supervisão a partir dos próprios dados, reduzindo drasticamente a necessidade de rotulagem manual dos dados.
• Aprendizagem não supervisionada: Esta é uma categoria alargada que tem como objetivo encontrar padrões ocultos em dados não rotulados. Embora a aprendizagem contrastiva utilize dados não rotulados como os métodos tradicionais não supervisionados (por exemplo, agrupamento k-means), distingue-se pelo facto de criar um objetivo semelhante ao supervisionado (a tarefa pretextual de comparar pares) para orientar o processo de aprendizagem.
• Aprendizagem auto-supervisionada (SSL): A aprendizagem contrastiva é um tipo proeminente de SSL. A SSL é um paradigma em que a supervisão é gerada a partir dos próprios dados. A aprendizagem contrastiva é uma forma de o conseguir, mas existem outros métodos SSL não contrastivos, como os baseados na previsão de partes mascaradas de uma imagem.

Benefícios e desafios

Benefícios:

• Dependência reduzida de rótulos: Aproveita grandes quantidades de dados não rotulados, diminuindo a necessidade de anotação de dados cara e demorada.
• Representações robustas: Aprende frequentemente caraterísticas que são mais invariantes a variações incómodas em comparação com os métodos puramente supervisionados.
• Pré-treinamento eficaz: Fornece excelentes pontos de partida para o ajuste fino em tarefas específicas de downstream, muitas vezes levando a um melhor desempenho, especialmente com dados rotulados limitados. Pode explorar a forma como os modelos pré-treinados são utilizados na formação de modelos personalizados.

Desafios:

• Seleção de amostras negativas: O desempenho pode ser sensível ao número e à qualidade das amostras negativas. A seleção de amostras negativas informativas é crucial mas difícil.
• Estratégia de aumento: A escolha das técnicas de aumento de dados influencia fortemente as invariâncias que o modelo aprende.
• Custo computacional: Frequentemente, são necessários grandes lotes e recursos computacionais significativos(GPUs) para um treinamento eficaz, embora haja pesquisas em andamento para atenuar esse problema. Plataformas como o Ultralytics HUB podem facilitar a gestão e o treino destes modelos. Estruturas como PyTorch(sítio oficial) e TensorFlow(sítio oficial) fornecem ferramentas para implementar métodos de aprendizagem contrastiva.