Gdy algorytm wręczy wypowiedzenie. Gdzie kończy się autonomia AI?

autor zdjęcia: AdobeStock

źródło: Rzeczpospolita

Najważniejsze pytanie nie brzmi już, czy korzystać z AI, lecz jak zorganizować tę współpracę, aby człowiek zachował sprawczość, zdolność krytycznej oceny i odpowiedzialność za podejmowane decyzje – podkreśla Aleksandra Przegalińska, prorektorka ds. innowacji i AI Akademii Leona Koźmińskiego

Holenderski organ ochrony danych nałożył na Ubera karę za automatyczne blokowanie kont kierowców bez kontroli człowieka. AI, która samodzielnie wykonuje operacje wywołujące skutki prawne, to wyzwanie.

Decyzja holenderskiego regulatora rynku danych osobowych odbiła się szerokim echem w świecie technologii – na platformę Uber nałożył on karę w wysokości niemal 825 mln euro za stosowanie wobec kierowców zautomatyzowanych systemów decyzyjnych. W przypadku algorytmicznego podejrzenia oszustwa lub odnotowania zbyt niskich ocen konta użytkowników były dezaktywowane czasowo, a w określonych sytuacjach również trwale.

Organ nadzorczy jednoznacznie uznał, że kluczową wadą wdrożonego mechanizmu był brak wystarczającej kontroli ze strony człowieka i, choć zastosowane tam oprogramowanie nie było jeszcze autonomicznym agentem AI, przypadek ten dobitnie obrazuje: systemy informatyczne przestały biernie analizować rzeczywistość, zyskując zdolność bezpośredniego wpływania na los pracowników.

Człowiek może przerwać łańcuch

Wniosek z tej historii jest oczywisty: bezpieczne wykorzystanie technologii agentów AI wymaga dziś porzucenia nieskutecznych zakazów na rzecz precyzyjnego ograniczenia uprawnień i głębokiej reorganizacji procesów biznesowych. Jeszcze niedawno zastanawialiśmy się, czy sztuczna inteligencja zabierze nam pracę, później pojawiło się pytanie, czy algorytmy będą podpowiadać firmom, kogo zatrudnić, awansować albo zwolnić, a dziś zautomatyzowane systemy potrafią już podjąć decyzję, która...