AI poza kontrolą. „To początek”

autor zdjęcia: Yasuhiro Kobayashi/afp

źródło: Rzeczpospolita

Geoffrey Hinton ostrzega, że ludzie nie będą już mogli polegać na swej przewadze intelektualnej

Noblista Geoffrey Hinton przekonuje, że coraz trudniej będzie kontrolować AI. W testach agenci AI OpenAI i Anthropic uzyskali nieautoryzowany dostęp do systemów.

Im mądrzejsza staje się sztuczna inteligencja, tym trudniej będzie ludzkości nad nią zapanować – twierdzi Geoffrey Hinton, laureat Nagrody Nobla i wybitny informatyk nazywany „ojcem chrzestnym AI”. Jego ostrzeżenia wynikają nie tylko z teoretycznych rozważań, ale także z obserwacji coraz bardziej niepokojących zachowań zaawansowanych autonomicznych tzw. agentów AI. – Dzieje się tak, ponieważ te systemy stają się coraz mądrzejsze – powiedział Hinton w rozmowie z CNN podczas konferencji Ai4 w Las Vegas. – Sądzę, że w miarę jak będą mądrzeć, zobaczymy z ich strony coraz bardziej złożone intencje – oraz rosnącą, wręcz wykładniczą zdolność do wymykania się spod kontroli.

Problem, zdaniem Hintona, polega na tym, że ludzie nie będą już mogli polegać na przewadze intelektualnej nad coraz potężniejszymi modelami AI. – Nie wierzę, że będziemy w stanie utrzymać nad nimi kontrolę w tak prosty sposób, że po prostu je przechytrzymy – powiedział Hinton.

Podstawą jego obaw są m.in. wydarzenia z ostatnich tygodni. OpenAI ujawniło przypadek agenta wykorzystującego model GPT-5.6-Sol, który odnalazł lukę w wewnętrznej usłudze sieciowej, uzyskał dodatkowe uprawnienia i wykrył połączenie z internetem. Następnie uznał, że potrzebne odpowiedzi mogą znajdować się na serwerach Hugging Face, jednej...