AI lubi kłamać. Jej porady mogą być kosztowne

autor zdjęcia: AdobeStock

źródło: Rzeczpospolita

Sztuczna inteligencja ma poważną słabość. Kiedy nie zna odpowiedzi na zadane pytanie, często zaczyna zmyślać

Bot wprowadzony przez Nowy Jork doradzał firmom łamanie prawa, zaś AI firmy kurierskiej DPD naśmiewała się z niej, nazywając najgorszą na świecie.

Chatbot miasta Nowy Jork od samego początku zaczął namawiać ich do łamania prawa i naginania przepisów. Mimo to władze Nowego Jorku odmówiły usunięcia go ze strony miasta. O problemach poinformował serwis technologiczny The Markup, jednak miasto zdecydowało się pozostawić narzędzie na swojej oficjalnej stronie internetowej. Burmistrz Eric Adams bronił tej decyzji, przyznając jednak, że odpowiedzi chatbota były „błędne w niektórych obszarach”.

Uruchomiony w październiku jako „punkt kompleksowej obsługi” dla właścicieli firm, chatbot oferuje użytkownikom generowane algorytmicznie odpowiedzi tekstowe na pytania dotyczące poruszania się w biurokratycznym labiryncie miasta. Miasto ostrzega jednak, że może on „sporadycznie generować nieprawidłowe, szkodliwe lub stronnicze” informacje oraz zastrzega, że jego odpowiedzi nie stanowią porady prawnej.

Szczur niestraszny

Chatbot w dalszym ciągu podaje fałszywe wytyczne, niepokojąc ekspertów, którzy twierdzą, że wadliwy system uwypukla niebezpieczeństwa, jakie stwarzają władze wdrażające systemy oparte na sztucznej inteligencji bez wystarczających barier ochronnych....