Jak pracować nad bezstronnością sztucznej inteligencji

źródło: materiały prasowe

Jolanta Jaworska, dyrektor ds. publicznych i regulacyjnych IBM Polska i Kraje Bałtyckie

Nie zawsze jesteśmy bezstronni, kierujemy się różnymi własnymi uprzedzeniami. Mamy tendencję do skupiania się na informacjach, które potwierdzają naszą z góry przyjętą tezę w danej sprawie.

Podobne zachowania mogą wystąpić w przypadku sztucznej inteligencji (AI), zwłaszcza gdy do programowania AI wykorzystywane są techniki uczenia maszynowego. Powszechnie stosowana technika, tzw. nadzorowane uczenie maszynowe wymaga, aby systemy AI były szkolone na dużej liczbie przykładowych problemów i ich rozwiązań. Np. jeśli chcielibyśmy stworzyć system AI, który ma decydować, kiedy przyjąć lub odrzucić wniosek o kredyt, przeszkolilibyśmy go, korzystając z wielu wniosków kredytowych i dla każdego z nich podawalibyśmy mu właściwą decyzję (akceptacja lub odrzucenie).

Obecnie istnieją algorytmy, które pozwalają na wykrywanie i ograniczanie uprzedzeń w AI. Jednak przestrzeń dla stronniczości AI jest niezwykle złożona, a różne typy danych (obrazy, tekst, mowa, dane strukturalne/uporządkowane) wymagają różnych technik wykrywania uprzedzeń w zbiorze danych szkoleniowych. Odejście od bezstronności może również...