La Intel·ligència Artificial s’utilitza cada vegada més en el nostre dia a dia, i aporta grans beneficis a tots nosaltres. Tanmateix, la presa de decisions amb algorismes de Machine Learning pot ser perjudicial en recrear biaixos històrics. La preocupació sobre la transparència i l’equitat de l’Aprenentatge Automàtic està en augment a causa de l’impacte progressiu en la societat.

José Carlos Baquero, director d’Intel·ligència Artificial i Big Data de Secure e-Solutions de GMV, ha ressaltat la importància de l’ètica en la Intel·ligència Artificial durant la seva ponència a IAragón Summit 2019, compartint com podem aconseguir algorismes equitatius per defensar-nos dels prejudicis.

Hem d’apostar per la Intel·ligència Artificial i l’aprenentatge automàtic, però encara necessitem buscar establir els límits ètics als quals s’hauria de sotmetre aquest àmbit. Cada dia sorgeixen més inquietuds sobre la pèrdua de transparència, responsabilitat i equitat dels algorismes que prenen decisions, fet que provoca una necessitat d’intensificar i buscar maneres per mitigar la discriminació emergent en els nostres models. En la seva intervenció, Baquero ha esmentat aproximacions que s’estan duent a terme per realitzar models predictius equitatius, com permetre interrogar els models complexos posant el focus en la interpretabilitat i transparència, o modificar l’optimització de les funcions objectiu i afegir restriccions per fer models més robustos i justos en les seves prediccions.

Per exemple, remeiar el biaix discriminatori dels algorismes és impossible si aquests són opacs. En aquest cas, la transparència és essencial i una solució pot ser començar per fer seguiment i publicar on s’utilitzen els sistemes d’Intel·ligència Artificial i amb quin propòsit. En un procés de contractació, comprendre en quins punts els algorismes entren en joc pot ajudar a identificar els orígens del biaix.

En definitiva, es requereixen tècniques enginyoses per corregir el profund biaix de les dades i forçar els models a fer prediccions més imparcials. Aquestes accions comporten un cost que redueix l’acompliment del nostre model, però és un “petit preu a pagar per deixar enrere el món esbiaixat d’ahir i tenir un demà més just”, va concloure Baquero.