Aprendizagem auto-supervisionada

A aprendizagem auto-supervisionada é um paradigma de aprendizagem automática que permite que os modelos aprendam a partir de grandes quantidades de dados não etiquetados, criando as suas próprias etiquetas através de tarefas pré-textuais. Esta abordagem preenche a lacuna entre a aprendizagem supervisionada, que se baseia em dados etiquetados, e a aprendizagem não supervisionada, que funciona com dados totalmente não etiquetados. Ao tirar partido da aprendizagem auto-supervisionada, os sistemas de IA podem extrair padrões e representações significativos dos dados sem o processo dispendioso e moroso da etiquetagem manual.

Como funciona a aprendizagem auto-supervisionada

Na aprendizagem auto-supervisionada, o modelo gera pseudo-rótulos a partir dos próprios dados. Estas pseudo-rotulagens são derivadas de propriedades específicas ou transformações dos dados. O modelo é então treinado para prever estas etiquetas, promovendo uma compreensão da estrutura de dados subjacente. As tarefas comuns de pretexto incluem a previsão de partes em falta de uma imagem, a determinação da correspondência entre dois fragmentos de imagem ou a previsão da palavra seguinte numa sequência.

Por exemplo:

• Nos dados de imagem, um modelo pode ser encarregado de prever o ângulo de rotação aplicado a uma imagem ou de reconstruir pixéis em falta.
• No processamento de linguagem natural (PNL), pode prever a palavra seguinte numa frase, como se vê em modelos como o GPT.

Relevância em IA e ML

A aprendizagem auto-supervisionada é particularmente valiosa porque a maior parte dos dados do mundo real não tem rótulos. Ao permitir que os modelos aprendam com esta riqueza de dados não rotulados, a aprendizagem auto-supervisionada melhora as aplicações em domínios como a visão por computador, o processamento de linguagem natural e a robótica. Esta abordagem reduz a dependência de conjuntos de dados rotulados, tornando-a económica e escalável.

Conceitos relacionados

A aprendizagem auto-supervisionada é diferente de outros paradigmas de aprendizagem automática:

• Aprendizagem supervisionada: Requer um conjunto de dados rotulado para treinar o modelo. Saiba mais sobre a aprendizagem supervisionada.
• Aprendizagem não supervisionada: Concentra-se em encontrar padrões em dados não rotulados sem gerar rótulos. Explora a aprendizagem não supervisionada.
• Aprendizagem Contrastiva: Uma forma de aprendizagem auto-supervisionada que enfatiza a distinção entre pontos de dados semelhantes e diferentes. Lê sobre a aprendizagem contrastiva.

Aplicações da aprendizagem auto-supervisionada

Reconhecimento de imagens

A aprendizagem auto-supervisionada revolucionou o reconhecimento de imagens ao permitir que os modelos aprendam caraterísticas a partir de conjuntos de dados não rotulados. Por exemplo, um modelo pode prever a disposição espacial de manchas de imagem ou reconstruir partes em falta de uma imagem. Estas técnicas são fundamentais em aplicações como a imagiologia médica, onde os dados etiquetados são frequentemente escassos. Explora mais sobre o reconhecimento de imagens.

Processamento de linguagem natural

Na PNL, a aprendizagem auto-supervisionada potencia modelos como o GPT e o BERT. Estes sistemas prevêem a palavra seguinte ou as palavras mascaradas numa frase, o que lhes permite destacarem-se em tarefas como a geração de texto, a tradução e o resumo. Aprende sobre GPT e as suas aplicações em PNL.

Robótica

A robótica utiliza a aprendizagem auto-supervisionada para interpretar ambientes complexos e melhorar a tomada de decisões. Por exemplo, um sistema robótico pode prever as consequências das suas acções com base em dados visuais, melhorando a sua capacidade de navegar ou manipular objectos de forma autónoma.

Exemplos do mundo real

1. Ultralytics HUB e Vision AI: As técnicas auto-supervisionadas são utilizadas em plataformas como o Ultralytics HUB para simplificar tarefas como a deteção de objectos e a formação de modelos. Ao utilizar a aprendizagem auto-supervisionada, estes sistemas reduzem a dependência de conjuntos de dados rotulados, facilitando o desenvolvimento escalável da IA.
2. Imagiologia médica: Os modelos de aprendizagem auto-supervisionados podem analisar conjuntos de dados de exames de ressonância magnética ou de tomografia computorizada para detetar anomalias sem necessidade de rotulagem manual exaustiva por parte dos radiologistas. Sabe mais sobre o papel da IA na melhoria dos diagnósticos em IA nos cuidados de saúde.

Vantagens da aprendizagem auto-supervisionada

• Eficiência: Elimina a necessidade de extensos conjuntos de dados rotulados, reduzindo os custos.
• Escalabilidade: Consegue lidar com conjuntos de dados não rotulados em grande escala, tornando-o adequado para indústrias como a dos cuidados de saúde e a dos veículos autónomos.
• Generalização: Produz representações robustas que se generalizam bem em tarefas posteriores, como a classificação ou a segmentação.

Desafios e direcções futuras

Apesar das suas vantagens, a aprendizagem auto-supervisionada apresenta desafios:

• Complexidade das tarefas de pretexto: A conceção de tarefas de pretexto adequadas para diferentes tipos de dados pode ser um desafio.
• Custos computacionais: Os modelos auto-supervisionados requerem frequentemente recursos computacionais significativos para serem treinados.

À medida que a investigação em IA progride, a aprendizagem auto-supervisionada continua a evoluir, expandindo o seu impacto em todas as indústrias. Explora as suas potenciais aplicações em veículos autónomos ou no fabrico.

A aprendizagem auto-supervisionada representa um salto significativo na maximização da utilidade dos dados não rotulados. Ao transformar a forma como os sistemas de IA aprendem e se adaptam, abre novos horizontes para a inovação e a eficiência na aprendizagem automática.