ChatGPT zrobił z niego mordercę. Jak AI błądzi

Halucynacje AI potrafią przynieść dramatyczne skutki. Europejska organizacja walcząca o cyfrowe prawa obywateli wytacza armaty wobec OpenAI.

Kim jest Arve Hjalmar Holmen? – Norweg o tym nazwisku zapytał ChatGPT i oniemiał. „Arve Hjalmar Holmen jest osobą narodowości norweskiej, która zwróciła na siebie uwagę z powodu tragicznego wydarzenia. Był ojcem dwóch młodych chłopców, w wieku 7 i 10 lat, którzy zostali znalezieni martwi w stawie w pobliżu ich domu w Trondheim w Norwegii w grudniu 2020 roku”. AI podała, że to on jest skazanym na 21 lat więzienia zabójcą, co więcej, próbował zabić trzecie dziecko, a wiele informacji, jak liczba i wiek jego dzieci, miejsce urodzenia, było precyzyjnych. Tyle że dzieci te żyją, a informacje o morderstwie i karze były wyssane z palca.

Dlaczego boty AI halucynują?

Arve Hjalmar Holmen złożył skargę do norweskiego organu ochrony danych (Datatilsynet) na twórcę chatbota, którym jest firma OpenAI. Wsparła go w tym zajmująca się ochroną praw obywateli w cyberprzestrzeni organizacja Europejskie Centrum Praw Cyfrowych (noyb) z siedzibą w Wiedniu.

„Niektórzy myślą, że nie ma dymu bez ognia. Fakt, że ktoś może otrzymać taką odpowiedź na mój temat i uwierzyć, że to prawda, jest tym, co najbardziej mnie przeraża” – mówił poszkodowany Norweg, cytowany na...