Skrzywdzeni przez algorytmy

autor zdjęcia: Dominika Zarzycka/NurPhoto via Getty Images

źródło: Rzeczpospolita

W sierpniu 2020 roku odbyły się protesty przeciwko stosowaniu algorytmu do przyznawania ocen z egzaminów absolwentom brytyjskich szkół podczas pandemii covidu, po odwołaniu egzaminów krajowych. Demonstranci posługiwali się hasłem „Piep...yć algorytm”. Zmusiły one rząd do wycofania się z tego pomysłu i pozostawienia ocen w gestii nauczycieli

źródło: Rzeczpospolita

Czy narzędzia predykcyjne bazujące na masowych danych, w tym sztuczna inteligencja, nie stanowią przypadkiem egzystencjalnego zagrożenia dla demokracji i naszych swobód obywatelskich?

W miarę jak decyzje podejmowane przez algorytmy oraz generatywną AI coraz bardziej wplatają się w nasze codzienne życie, ludzie ponoszący największe koszty funkcjonowania tych systemów zaczynają domagać się zadośćuczynienia. Automatyczne systemy są w dużym stopniu niewidoczne i nieprzejrzyste, a osoby dotknięte ich działaniem rzadko zdają sobie sprawę z ich roli. Nawet jeśli mają tę świadomość, na ogół nie są w stanie się dowiedzieć, jak te systemy działają, gdyż nie podlegają one regulacjom prawnym i są ukryte przed wzrokiem ludzi. Bezbronność społeczności dotkniętych ich funkcjonowaniem – pracowników o niskich dochodach, imigrantów, pacjentów szpitali albo ludzi o innym kolorze skóry – często bardzo utrudnia poszukiwanie sposobów na zakwestionowanie użycia tych enigmatycznych systemów.

Z tych samych powodów trudno też znaleźć prawdziwe historie przybliżające skutki działania systemów AI na ludzi. Skrzywdzeni przez algorytmy niechętnie opowiadają o swoich doświadczeniach. Helen Mort, poetka, która znalazła w sieci swoje sfałszowane zdjęcia pornograficzne, Diana Sardjoe, matka młodego mężczyzny napiętnowanego przez policyjny algorytm, a także kierowca Ubera Alexandru Iftimie byli jednymi z pierwszych osób gotowych podzielić się ze mną swoimi opowieściami, by mogły one...