A Inteligência Artificial é cada vez mais utilizada no nosso quotidiano, trazendo-nos grandes benefícios. No entanto, a tomada de decisões com algoritmos de Machine Learning pode ser prejudicial ao recriar distorções históricas. As preocupações sobre a transparência e a equidade da Aprendizagem Automática estão a aumentar devido ao impacto progressivo que têm sobre a sociedade.

José Carlos Baquero, Director de Inteligência Artificial e Big Data de Secure e-Solutions da GMV, destacou a importância da ética na Inteligência Artificial durante a sua palestra na cimeira IAragón Summit 2019, mostrando como se podem seguir algoritmos equitativos para nos defendermos dos danos.

Deve-se apostar pela Inteligência Artificial e pela aprendizagem automática, mas ainda necessitamos de tentar estabelecer os limites éticos a que se deveria submeter este âmbito. A cada dia surgem mais preocupações sobre a perda de transparência, responsabilidade e equidade dos algoritmos que tomam decisões, provocando uma necessidade de intensificar e procurar maneiras de mitigar a discriminação emergente nos nossos modelos. Na sua intervenção, Baquero mencionou aproximações que se estão a fazer para realizar modelos preditivos equitativos, como o de permitir interrogar modelos complexos destacando a interpretabilidade e a transparência ou a modificação da optimização das funções-objectivo e acrescentar restrições para fazer modelos mais robustos e justos nas suas predições.

Por exemplo, remediar a distorção discriminatória dos algoritmos é impossível se estes forem opacos. Nesse caso a transparência é essencial e uma solução pode consistir em começar por fazer seguimento, dar a conhecer onde se utilizam os sistemas de Inteligência Artificial e com que propósito. Num processo de contratação, compreender em que pontos os algoritmos entram em jogo, pode ajudar a identificar as origens da distorção.

Em suma, requerem-se técnicas engenhosas para corrigir a profunda distorção dos dados e forçar os modelos a realizar predições mais imparciais. Estas acções envolvem um custo que reduz o desempenho do nosso modelo, mas é um "pequeno preço a pagar para deixar para trás o mundo distorcido de ontem e ter um amanhã mais justo", concluiu Baquero.