Sobreajuste

Compreender o sobreajuste

O sobreajuste surge porque os modelos de ML têm como objetivo minimizar os erros nos dados de treino. Se um modelo tiver uma complexidade excessiva (por exemplo, demasiados parâmetros ou camadas), pode ajustar-se até ao ruído aleatório presente no conjunto de treino. Este ruído não representa os verdadeiros padrões subjacentes e é pouco provável que esteja presente em novos conjuntos de dados. Imagina que um fato é perfeitamente adaptado às medidas exactas de uma pessoa num dia específico - pode não se ajustar bem se o seu peso flutuar ligeiramente ou se outra pessoa o experimentar. No ML, este "ajuste perfeito" nos dados de treino resulta em inflexibilidade e fraco desempenho nos dados do mundo real, muitas vezes referido como fraca generalização.

O problema oposto é a subadaptação, em que um modelo é demasiado simples para captar a estrutura subjacente dos dados. Um modelo subajustado tem um desempenho fraco tanto nos dados de treino como nos novos dados porque não aprendeu o suficiente. O objetivo é encontrar um equilíbrio ótimo, muitas vezes discutido no contexto do compromisso entre a polarização e a variância, criando um modelo que generalize bem para dados não vistos.

Exemplos reais de sobreajuste

• Análise de imagens médicas: Na análise de imagens médicas para deteção de doenças, um modelo sobreajustado pode tornar-se excecionalmente bom na identificação de doenças no conjunto específico de imagens em que foi treinado, talvez por aprender artefactos únicos ou ruído presente apenas nesse conjunto de dados (por exemplo, de um scanner específico). Quando lhe são apresentadas novas imagens médicas de diferentes máquinas, populações de doentes ou condições de imagiologia, o modelo pode não conseguir generalizar, conduzindo potencialmente a diagnósticos incorrectos em contextos clínicos. Por exemplo, um modelo treinado para detetar tumores utilizando exames de ressonância magnética do Hospital A pode adaptar-se demasiado às caraterísticas do aparelho de ressonância magnética específico desse hospital e ter um desempenho fraco com exames do Hospital B, mesmo que a patologia subjacente seja idêntica.
• Condução autónoma: Um modelo de deteção de objectos para um veículo autónomo treinado excessivamente em dados diurnos e com tempo limpo pode adaptar-se demasiado a estas condições. Poderá ter um bom desempenho no reconhecimento de peões e outros veículos sob luz solar intensa, mas terá dificuldades significativas durante a noite, chuva, nevoeiro ou neve, não conseguindo detetar objectos de forma fiável devido à falta de generalização para estas entradas visuais variadas, o que representa um sério risco de segurança.

Evitar o sobreajuste

Várias técnicas podem ajudar a mitigar o sobreajuste e melhorar a generalização do modelo:

• Simplifica o modelo: A utilização de uma arquitetura de modelo menos complexa (menos camadas ou parâmetros) pode evitar que o modelo se ajuste ao ruído. Técnicas como a poda de modelos também podem reduzir a complexidade.
• Aumento dos dados: Aumenta artificialmente o tamanho e a diversidade do conjunto de dados de treino para ajudar o modelo a aprender caraterísticas mais robustas. As técnicas de aumento de dadosUltralytics YOLO incluem rotações, translações, escalas e mudanças de cor.
• Regularização: A adição de penalizações à função de perda com base nos parâmetros do modelo desencoraja modelos demasiado complexos. Os métodos comuns incluem a regularização L1 e L2.
• Paragem antecipada: Monitoriza o desempenho do modelo num conjunto de dados de validação separado durante o treino e interrompe o processo quando o desempenho da validação começa a degradar-se, mesmo que o desempenho do treino ainda esteja a melhorar. Isto evita que o modelo aprenda os dados de treino durante demasiadas épocas.
• Validação cruzada: Técnicas como a validação cruzada K-Fold fornecem uma estimativa mais robusta do desempenho do modelo em dados não vistos e ajudam a selecionar modelos que generalizam melhor.
• Desiste: A definição aleatória de uma fração de ativações de neurônios como zero durante o treinamento força a rede a aprender representações mais redundantes, reduzindo a dependência de neurônios específicos. Vê a explicação do conceito de Dropout.

Ao compreender e abordar o sobreajuste, os programadores podem criar modelos de IA mais fiáveis e eficazes. Ferramentas como o Ultralytics HUB podem ajudar no acompanhamento de experiências e na avaliação de modelos, auxiliando na deteção e mitigação do sobreajuste durante o ciclo de vida do desenvolvimento do modelo.