Equidade na IA

Compreender a equidade na IA

A equidade na IA é multifacetada e não tem uma definição única e universalmente aceite. Em vez disso, engloba vários formalismos matemáticos e considerações éticas destinadas a atenuar resultados injustos. O principal desafio consiste em identificar e abordar o enviesamento na IA, que pode ter origem em várias fontes, incluindo dados de formação distorcidos(enviesamento do conjunto de dados), algoritmos enviesados ou contextos de implementação imperfeitos. Os enviesamentos históricos presentes nos dados podem inadvertidamente ensinar os modelos a replicar discriminações passadas, enquanto os enviesamentos de medição podem surgir da recolha inconsistente de dados em diferentes grupos. Reconhecer estas potenciais armadilhas é o primeiro passo para construir sistemas mais justos. Diferentes critérios de equidade, como a paridade demográfica (assegurando que os resultados são independentes de atributos sensíveis) ou a igualdade de oportunidades (assegurando que as taxas positivas verdadeiras são iguais em todos os grupos), oferecem formas distintas de medir e lutar pela equidade, embora a obtenção de vários critérios em simultâneo possa ser um desafio, tal como salientado pela investigação na área (por exemplo, actas da ACM FAccT).

Relevância e importância

A importância da equidade na IA não pode ser exagerada, dado o seu profundo impacto potencial nos indivíduos e na sociedade. Os sistemas de IA injustos podem conduzir a resultados discriminatórios em áreas de grande importância, como a contratação, os pedidos de empréstimo, a justiça penal e a IA nos cuidados de saúde, negando potencialmente oportunidades ou serviços essenciais a determinados grupos. Garantir a equidade não é apenas uma consideração ética, mas muitas vezes um requisito legal, com os regulamentos a exigirem cada vez mais responsabilidade e não discriminação nas aplicações de IA (ver o NIST AI Risk Management Framework). Abordar a equidade ajuda a evitar danos, promove a justiça social e fomenta a confiança nas tecnologias de IA, incentivando a sua adoção responsável. Isto alinha-se com os princípios mais amplos da Ética da IA, que englobam a justiça, a transparência, a responsabilidade e a privacidade.

Aplicações da equidade na IA

Estão a ser desenvolvidos esforços para incorporar a equidade em várias aplicações de IA. Eis dois exemplos:

• Equidade nas ferramentas de contratação: A IA é utilizada para selecionar currículos e prever o sucesso dos candidatos. Se for treinada predominantemente com base em dados históricos que reflictam preconceitos de contratação anteriores (por exemplo, favorecer candidatos de universidades ou dados demográficos específicos), a IA pode prejudicar injustamente candidatos qualificados de grupos sub-representados. As empresas estão a desenvolver algoritmos conscientes da equidade e ferramentas de auditoria, como o AI Fairness 360 da IBM, para detetar e mitigar esses enviesamentos, utilizando frequentemente técnicas como a reponderação de pontos de dados ou a adição de restrições de equidade durante a formação do modelo.
• Equidade no reconhecimento facial: Os sistemas de reconhecimento facial têm revelado disparidades de precisão entre os diferentes grupos demográficos, tendo frequentemente um desempenho menos exato para indivíduos com tons de pele mais escuros ou mulheres. Isto pode ter consequências graves em aplicações que vão desde a verificação de identidade à aplicação da lei. Organizações de investigação como a Algorithmic Justice League (Liga da Justiça Algorítmica ) destacaram estas questões, levando a esforços para criar conjuntos de dados de treino mais diversificados e desenvolver modelos que apresentem um desempenho mais consistente entre populações. Técnicas como o aumento de dados e a utilização de conjuntos de dados de referência mais inclusivos são passos cruciais.

Distinguir a equidade de conceitos relacionados

Embora intimamente relacionada, a equidade na IA difere dos conceitos adjacentes:

• Ética da IA: Trata-se de um domínio mais vasto relativo aos princípios e diretrizes morais para o desenvolvimento e utilização da IA, incluindo a justiça, a responsabilidade, a transparência, a privacidade e a segurança. A equidade é uma componente crítica da ética da IA.
• Preconceito algorítmico: refere-se especificamente aos erros sistemáticos e repetíveis num sistema de IA que criam resultados injustos. A equidade na IA é o esforço proactivo para identificar, medir e mitigar o enviesamento algorítmico.
• IA explicável (XAI): A XAI centra-se em tornar as decisões da IA compreensíveis para os seres humanos. Embora a XAI possa ajudar a identificar potenciais problemas de equidade ao revelar como funciona um modelo, não garante inerentemente a equidade. No entanto, a transparência através da XAI é muitas vezes essencial para avaliar e garantir a equidade.

Alcançar a equidade

Conseguir a equidade exige uma combinação de abordagens técnicas e processuais ao longo do ciclo de vida da IA. Isto inclui uma cuidadosa recolha e anotação de dados, utilizando conjuntos de dados diversificados e representativos, empregando algoritmos de aprendizagem automática conscientes da equidade, testes rigorosos e avaliação de modelos utilizando métricas de equidade adequadas e monitorização contínua após a implementação. Ferramentas como a What-If Tool daGoogle permitem aos profissionais explorar o comportamento do modelo em diferentes segmentos de dados. Plataformas como o Ultralytics HUB facilitam a formação e gestão de modelos personalizados, permitindo aos utilizadores aplicar técnicas como o aumento de dados e avaliar modelos como o Ultralytics YOLO11 para detetar disparidades de desempenho entre diferentes grupos, apoiando o desenvolvimento de soluções de visão computacional mais equitativas.