GMV zdobywa nagrodę za umiejętność wykrywania i zapobiegania dyskryminacji ludzi przez sztuczną inteligencję

Sztuczna inteligencja jest coraz powszechniej używana i wszystko wskazuje na to, że jej zastosowania będą coraz szersze i że będziemy na niej polegać przy podejmowaniu coraz większej liczby decyzji, a nawet, że będzie nas w tym zastępowała. Już obecnie używa się jej, na przykład, w ocenie zdolności kredytowej, ocenie prawdopodobieństwa powrotu do przestępstwa, czy w dystrybucji zasobów środków medycznych. Niemniej jednak wyniki najnowszych badań i publikacji, które wskazują, że sztuczna inteligencja może dyskryminować ludzi, spowodowały debatę etyczną na temat opierania się całkowicie na technologii w procesie podejmowania niektórych decyzji. Debata ta wzbudziła w społeczeństwie niepokój co do etyki wykorzystywania danych, wychodzący poza kwestie ich prywatności i bezpieczeństwa. W związku z tym Departament Danych firmy Telefónica (LUCA) zorganizował międzynarodowy konkurs, którego celem było wspieranie odpowiedzialnego stosowania sztucznej inteligencji.

GMV, firma zawsze otwarta na nowe wyzwania i innowacyjne rozwiązania, wzięła udział w konkursie ogłoszonym przez LUCA. Zespół z Departamentu Sztucznej Inteligencji i Big Data GMV pod kierunkiem José Carlosa Baquero, w którego skład wchodzili Alexander Benítez, Paloma López de Arenosa, Antón Makarov i Inmaculada Perea, przygotował propozycję, której organizatorzy konkursu przyznali drugą nagrodę. „Nasze społeczeństwo ma obowiązek eliminowania dyskryminacji. Uczenie maszynowe stwarza doskonałą do tego okazję. Maszyny podejmują coraz więcej decyzji i dlatego musimy zwracać szczególną uwagę na to, w jaki sposób się uczą, tak samo jak dbamy o naukę naszych dzieci. Od nas zależy, czy algorytmy będą sprawiedliwe i czy będą wszystkich tak samo traktowały”, twierdzi Antón Makarov, Data Scientist z GMV.

Zrealizowany przez ekipę GMV projekt polegał na analizie otwartego zbioru danych INE (hiszpańskiego Krajowego Instytutu Statystyki) dotyczących wynagrodzeń w Hiszpanii. Analiza ta ujawniła, że wynagrodzenia hiszpańskich pracowników są zależne od płci, przy czym mężczyźni mają łatwiejszy dostęp do lepiej płatnych stanowisk. W pierwszej kolejności ekipa z GMV udowodniła, że nierówność płacowa występuje nawet wtedy, kiedy wśród danych nie ma informacji na temat płci. Następnie opracowała algorytm korygujący to zjawisko. Zastosowanie pierwszego z algorytmów do ustalenia wynagrodzenia prowadziło do dyskryminacji kobiet. Nowy algorytm pozwala na uniknięcie dyskryminacji ze względu na płeć i podejmowanie sprawiedliwych decyzji. „Powtórzyliśmy nasz eksperyment z kilkoma algorytmami i otrzymaliśmy podobne wyniki, co dowodzi, iż algorytmy uczą się dyskryminacji niezależnie od stosowanych klasyfikatorów. Na szczęście prowadzi się coraz więcej badań na ten temat i powstają coraz lepsze algorytmy pozwalające na wyeliminowanie dyskryminacji, co dobrze wróży na przyszłość”, powiedział Alexander Benítez, Data Scientist z GMV.

Propozycja GMV uwidacznia ewentualne konsekwencje etyczne niewłaściwego używania danych i pozwala na wyeliminowanie dyskryminujących algorytmów w sytuacjach, w których maszyny podejmują ważne decyzje, sprawiając, że traktują one wszystkich równo i z poszanowaniem praw przysługujących wszystkim osobom.