Algorytmy stają się rasistami i seksistami

źródło: bloomberg

Piesi przechodzą przez ulicę nowojorskiego Harlemu. Sztuczna inteligencja widzi ich inaczej. Okazało się, że najgorzej traktuje kobiety, mniejszości etniczne i inwalidów.

Systemy oparte na sztucznej inteligencji przyspieszają analizę dokumentów i załatwianie spraw urzędowych. 
Ale nie są wolne od uprzedzeń.

Ogłoszenie o pracę wydaje się być skrojone pod nasze osiągnięcia zawodowe, a mimo że wysłaliśmy CV, nikt się nie odzywa? Bank lub firma ubezpieczeniowa po złożonym online wniosku odsyłają bardzo niekorzystne warunki kredytu czy polisy? Niekoniecznie musi stać za tym złośliwy pracownik. Często to tylko komputerowy algorytm. Coraz częściej okazuje się, że nawet sztuczna inteligencja nie jest wolna od uprzedzeń na tle rasy, płci czy statusu społecznego. I bardzo trudno z tym walczyć.

Ułomne systemy

Systemy oparte na maszynowym uczeniu się święcą teraz triumfy i znacznie usprawniają obsługę klientów, analizę dokumentów czy wniosków finansowych. Jednak już widać, że pojawiają się negatywne symptomy i trzeba się liczyć ze wzrostem skali tego rodzaju zjawisk.

Jak pisze dziennik „Financial Times", w USA problem z rasistowskimi czy seksistowskimi uprzedzeniami algorytmów zaczyna przynosić już...