Sztuczna inteligencja jest coraz częściej wykorzystywana w naszym codziennym życiu, co przynosi wszystkim ogromne korzyści. Jednak proces podejmowania decyzji za pomocą algorytmów Machine Learning może być szkodliwy ze względu na to, że odtwarza historyczne uprzedzenia. Wzrastają też obawy co do przejrzystości i sprawiedliwości Uczenia Maszynowego ze względu na coraz większy wpływ tej technologii na społeczeństwo.

José Carlos Baquero, Dyrektor ds. Sztucznej Inteligencji i Big Data w GMV Secure e-Solutions, podkreślił znaczenie etyki w sztucznej inteligencji podczas swojej prelekcji na IAragón Summit 2019 i opowiedział o tym, jak możemy wypracować sprawiedliwe algorytmy umożliwiające zapobieganie uprzedzeniom.

Należy popierać stosowanie sztucznej inteligencji i systemów maszynowego uczenia, ale jednocześnie należy ustalić etyczne granice, którym powinien podlegać ten obszar. Coraz więcej obaw budzi kwestia braku przejrzystości, odpowiedzialności i sprawiedliwości algorytmów służących do podejmowania decyzji, co prowadzi do nasilenia działań mających na celu ograniczanie dyskryminacji, która pojawia się w naszych modelach. W swoim wystąpieniu Baquero wspomniał o metodach, które stosuje się w celu tworzenia sprawiedliwych modeli predykcyjnych, takich jak możliwość badania złożonych modeli pod kątem ich interpretacji i przejrzystości czy też modyfikowanie optymalizacji docelowych funkcji oraz wprowadzanie ograniczeń umożliwiających zwiększenie odporności modeli i uczciwości w ich przewidywaniach.

Wyeliminowanie dyskryminacyjnego uprzedzenia algorytmów jest niemożliwe, jeśli nie są one przejrzyste. Przejrzystość systemów sztucznej inteligencji jest kwestią zasadniczą, a jednym z rozwiązań może być śledzenie i publikowanie informacji o tym, gdzie i w jakim celu są one wykorzystywane. Przykładowo, w procesach selekcji i zatrudniania pracowników zrozumienie, w którym momencie uruchamiane są algorytmy, może pomóc w identyfikacji źródeł uprzedzeń.

Aby skorygować błędy w modelach predykcyjnych oraz zmusić je do bardziej bezstronnego i obiektywnego funkcjonowania, niezbędne jest zastosowanie nowatorskich technik. Działania te pociągają za sobą koszty, które zmniejszają wydajność stosowanych obecnie systemów, ale jest to „niewielka cena do zapłacenia za odrzucenie stronniczego wczorajszego świata i zapewnienie sprawiedliwszego jutra”, podsumował Baquero.