Użytkownik, dostawca, a może nikt – kto odpowiada za błędy AI?

Agenty AI to już zacznie więcej niż tylko chatboty. Programy, wyposażone w dostęp do przeglądarki internetowej, aplikacji i kont użytkownika, mają coraz większą autonomię. A to budzi uzasadnione obawy. Ryzyka są realne.

Agent AI, czyli inteligentny asystent, działający niejako w imieniu użytkownika, to technologia, która błyskawicznie zyskuje na znaczeniu. Eksperci ds. cyberbezpieczeństwa jednak przestrzegają, bo zagrożenie przekroczenia uprawnień przez bota, czy naruszenie finansów „właściciela” (użytkownika), może przerodzić się w poważne konsekwencje.

– Gdyby ludzki asystent zaczął zarządzać twoimi finansami bez zgody, mógłbyś go pozwać. W przypadku agenta AI sytuacja wygląda inaczej – mówi Miguel Fornes, ekspert ds. cyberbezpieczeństwa w firmie Surfshark.

Nadchodzi era autonomii

Gartner przewiduje, że do 2028 r. co najmniej 15 proc. codziennych decyzji związanych z pracą będzie podejmowanych autonomicznie przez agentów AI, a 33 proc. aplikacji oprogramowania dla przedsiębiorstw będzie zawierać sztuczną inteligencję opartą na agentach (w porównaniu z niecałym 1 proc. w 2024 r.). Eksperci uważają, że zamiast jednego, wszechpotężnego systemu na horyzoncie widać rather wyspecjalizowanych agentów AI, którzy automatyzują rutynowe zadania i wspomagają nas w podejmowaniu decyzji, a ich zdolności są celowo zawężone do konkretnych zadań (co często pozwala osiągnąć wyniki szybciej, przy ułamku kosztów i niższej złożoności wdrożenia). W praktyce czeka nas zalew takich autonomicznych...