Viés do conjunto de dados

Fontes e tipos de enviesamento do conjunto de dados

O enviesamento do conjunto de dados não é um problema único, mas pode manifestar-se de várias formas durante o processo de recolha e anotação de dados:

• Viés de seleção: Ocorre quando os dados não são amostrados aleatoriamente, levando a uma sobre-representação ou sub-representação de determinados grupos ou cenários. Por exemplo, um conjunto de dados para condução autónoma treinado principalmente com imagens diurnas e de tempo limpo pode ter um desempenho fraco à noite ou com chuva.
• Viés de medição: resulta de problemas nos instrumentos ou no processo de recolha de dados. Por exemplo, a utilização de câmaras de qualidade diferente para diferentes grupos demográficos num conjunto de dados de reconhecimento facial pode introduzir um viés.
• Viés de etiqueta (viés de anotação): Resulta de inconsistências ou preconceitos durante a fase de rotulagem dos dados, em que os anotadores humanos podem interpretar ou rotular os dados de forma diferente com base em pontos de vista subjectivos ou preconceitos implícitos. A exploração de diferentes tipos de preconceitos cognitivos pode esclarecer potenciais factores humanos.
• Preconceito histórico: Reflecte os preconceitos sociais existentes no mundo, que são capturados nos dados. Se os dados históricos mostram que certos grupos estavam menos representados em determinadas funções, uma IA treinada com base nesses dados pode perpetuar esse preconceito.

Compreender estas fontes é crucial para atenuar o seu impacto, tal como salientado em recursos como o blogueUltralytics sobre a compreensão do enviesamento da IA.

Porque é que o enviesamento do conjunto de dados é importante

As consequências do enviesamento do conjunto de dados podem ser graves, afectando o desempenho do modelo e a justiça social:

• Redução da precisão e da fiabilidade: Os modelos treinados com dados tendenciosos apresentam frequentemente uma menor precisão quando se deparam com dados de grupos ou cenários sub-representados. Isto limita a capacidade de generalização do modelo, conforme discutido em estudos como "Datasets: A matéria-prima da IA".
• Resultados injustos ou discriminatórios: Os modelos tendenciosos podem levar a desvantagens sistemáticas para determinados grupos, levantando preocupações significativas relativamente à equidade na IA e à ética da IA. Isto é particularmente crítico em aplicações de alto risco, como contratações, aprovações de empréstimos e diagnósticos de saúde.
• Reforço de estereótipos: Os sistemas de IA podem inadvertidamente perpetuar estereótipos prejudiciais se forem treinados com dados que reflictam preconceitos sociais.
• Erosão da confiança: A confiança do público nas tecnologias de IA pode ser prejudicada se os sistemas forem vistos como injustos ou pouco fiáveis devido a preconceitos subjacentes. Organizações como a Partnership on AI e o AI Now Institute trabalham para resolver estas implicações sociais mais alargadas.

Exemplos do mundo real

1. Sistemas de reconhecimento facial: Os primeiros conjuntos de dados de reconhecimento facial representavam frequentemente homens de pele mais clara. Consequentemente, os sistemas comerciais demonstraram uma precisão significativamente inferior para as mulheres de pele mais escura, conforme salientado pela investigação de instituições como o NIST e organizações como a Algorithmic Justice League. Esta disparidade coloca riscos em aplicações que vão desde a marcação de fotografias à verificação de identidade e à aplicação da lei.
2. Análise de imagens médicas: Um modelo de IA treinado para detetar cancro da pele utilizando a análise de imagens médicas pode ter um desempenho fraco em tons de pele mais escuros se o conjunto de dados de treino consistir principalmente em imagens de pacientes de pele clara. Este enviesamento pode levar a diagnósticos perdidos ou atrasados para grupos de pacientes sub-representados, afectando a equidade da IA nos cuidados de saúde.

Distinguir o enviesamento do conjunto de dados dos conceitos relacionados

É importante diferenciar o Viés do conjunto de dados de termos semelhantes:

• Enviesamento na IA: Este é um termo abrangente que engloba qualquer erro sistemático que conduza a resultados injustos. O viés do conjunto de dados é uma das principais causas de viés na IA, mas o viés também pode resultar do próprio algoritmo(viés algorítmico) ou do contexto de implementação.
• Enviesamento algorítmico: refere-se aos enviesamentos introduzidos pela arquitetura do modelo, pelo processo de aprendizagem ou pelos objectivos de otimização, independentemente da qualidade inicial dos dados. Por exemplo, um algoritmo pode dar prioridade à exatidão geral em detrimento da justiça para grupos minoritários.
• Equidade na IA: Trata-se de um objetivo ou propriedade de um sistema de IA, que visa um tratamento equitativo entre diferentes grupos. Abordar o viés do conjunto de dados é um passo crucial para alcançar a equidade, mas a equidade também envolve ajustes algorítmicos e considerações éticas definidas por estruturas como a Estrutura de Gestão de Riscos de IA do NIST.
• Compensação entre enviesamento e variância: Este é um conceito fundamental na aprendizagem automática relativamente à complexidade do modelo. O "enviesamento" refere-se aqui a erros de pressupostos demasiado simplistas(subajuste), distintos dos enviesamentos sociais ou estatísticos encontrados nos conjuntos de dados.

Abordar o viés do conjunto de dados

A atenuação do enviesamento do conjunto de dados requer estratégias proactivas ao longo do fluxo de trabalho de ML:

• Recolha cuidadosa de dados: Esforça-se por obter fontes de dados diversificadas e representativas que reflictam o ambiente de implementação pretendido. Documentar os conjuntos de dados utilizando estruturas como as folhas de dados para conjuntos de dados pode melhorar a transparência.
• Pré-processamento e aumento de dados: Técnicas como a reamostragem, a síntese de dados e o aumento de dados direcionado podem ajudar a equilibrar os conjuntos de dados e a aumentar a representação. As ferramentas do ecossistema Ultralytics suportam vários métodos de ampliação.
• Ferramentas de deteção de viés: Utiliza ferramentas como a ferramenta What-If doGoogle ou bibliotecas como a Fairlearn para auditar conjuntos de dados e modelos para detetar possíveis distorções.
• Avaliação do modelo: Avalia o desempenho do modelo em diferentes subgrupos utilizando métricas de equidade juntamente com métricas de precisão padrão. Documenta os resultados utilizando métodos como Cartões de Modelo.
• Suporte da plataforma: Plataformas como o Ultralytics HUB fornecem ferramentas para gerir conjuntos de dados, modelos de treino como o Ultralytics YOLO11e facilitar a avaliação rigorosa dos modelos, ajudando os programadores a criar sistemas menos tendenciosos.

Ao abordar conscientemente o enviesamento do conjunto de dados, os programadores podem criar sistemas de IA mais robustos, fiáveis e equitativos. Podes encontrar mais informações em inquéritos de investigação como "A Survey on Bias and Fairness in Machine Learning" e debates em conferências como a ACM FAccT.