IA explicável (XAI)

Porque é que a IA explicável é importante

A necessidade de XAI decorre da crescente integração da IA nos processos críticos de tomada de decisões em vários sectores. Embora os modelos de IA como o Ultralytics YOLO possam atingir uma elevada precisão, é crucial compreender por que razão fazem previsões específicas. Esta falta de interpretabilidade pode dificultar a adoção em domínios de grande importância, como a IA nos cuidados de saúde e nas finanças. Os principais impulsionadores da XAI incluem:

• Confiança e responsabilidade: Compreender o raciocínio por detrás da decisão de uma IA ajuda os utilizadores a confiar nos seus resultados e responsabiliza os programadores pelo comportamento do modelo.
• Depuração e melhoria: As técnicas XAI podem ajudar a identificar falhas, enviesamentos ou comportamentos inesperados nos modelos, orientando os programadores na avaliação e afinação dos modelos. Por exemplo, compreender porque é que um modelo de deteção de objectos falha em determinadas condições permite melhorias específicas.
• Conformidade regulamentar: Regulamentos como o Regulamento Geral de Proteção de Dados (GDPR) da UE exigem um "direito à explicação" para decisões automatizadas, tornando a XAI essencial para a conformidade legal.
• Considerações éticas: Ao revelar a forma como os modelos utilizam os dados, a XAI ajuda a descobrir e a mitigar potenciais enviesamentos na IA, garantindo resultados mais justos e alinhando-se com os princípios éticos da IA.

Benefícios e aplicações

A implementação da XAI oferece vantagens significativas. Aumenta a confiança dos utilizadores, facilita o desenvolvimento de modelos através de uma depuração mais fácil e promove uma implementação responsável da IA. As técnicas de XAI são aplicadas em vários domínios:

1. Diagnóstico médico: Na análise de imagens médicas, a XAI pode realçar as regiões específicas de uma imagem (como um raio-X ou uma ressonância magnética) que levaram um modelo de IA a detetar uma potencial doença. Isto permite que os médicos verifiquem as conclusões da IA e as integrem com confiança no seu processo de diagnóstico. Iniciativas de investigação como o Programa XAI da DARPA estimularam o desenvolvimento nesta área.
2. Serviços financeiros: Quando os modelos de IA são utilizados para pontuação de crédito ou aprovação de empréstimos, a XAI pode explicar os factores que contribuem para a decisão (por exemplo, histórico de crédito, nível de rendimento). Isto ajuda as instituições a cumprir regulamentos como o Equal Credit Opportunity Act e a fornecer razões claras aos clientes, garantindo a equidade. Explora mais sobre a IA nas finanças.

Técnicas de XAI

Existem várias técnicas para alcançar a explicabilidade, muitas vezes categorizadas pelo seu âmbito (global vs. local) ou pelo seu momento (intrínseco vs. post-hoc). Os métodos mais comuns incluem:

• LIME (Local Interpretable Model-agnostic Explanations): Explica as previsões individuais aproximando o modelo complexo localmente com um modelo mais simples e interpretável. Saiba mais sobre o LIME.
• SHAP (SHapley Additive exPlanations): Utiliza conceitos da teoria dos jogos cooperativos para atribuir um valor de importância a cada caraterística para uma determinada previsão. Descobre os valores SHAP.
• Mecanismos de atenção: Em modelos como os Transformers, as camadas de atenção podem por vezes ser visualizadas para mostrar em que partes dos dados de entrada o modelo se concentrou mais.

XAI vs. Transparência na IA

Embora relacionada, a XAI é distinta da Transparência na IA. A transparência refere-se geralmente à acessibilidade da informação sobre um sistema de IA, como os seus dados de treino, código fonte ou arquitetura geral. A XAI, no entanto, centra-se especificamente em tornar compreensível para os seres humanos o raciocínio subjacente às decisões ou previsões específicas de um modelo. Um sistema de IA pode ser transparente (por exemplo, código-fonte aberto disponível) mas ainda assim não ser facilmente explicável se a sua lógica interna permanecer complexa e pouco intuitiva. Uma governação eficaz da IA exige frequentemente transparência e explicabilidade. Podes ler mais na nossa publicação no blogue Tudo o que precisas de saber sobre IA explicável.