Uciekająca sztuczna inteligencja. Co ujawnił incydent w OpenAI

autor zdjęcia: shutterstock

źródło: Rzeczpospolita

Rynek przechodzi obecnie od etapu, w którym AI pełni rolę asystenta udzielającego odpowiedzi, do etapu, w którym samodzielnie wykonuje coraz bardziej złożone zadania. To ogromna szansa na wzrost produktywności, ale jednocześnie rosnąca potrzeba skutecznego nadzoru

Podczas testów AI wydostała się z zamkniętego środowiska i uzyskała dostęp do systemów jednej z firm. Incydent ujawniony przez OpenAI pokazuje, że autonomiczne modele są coraz większym zagrożeniem.

Koncern OpenAI poinformował, że podczas testów bezpieczeństwa nowego modelu GPT-5.6 Sol, sztuczna inteligencja włamała się do zewnętrznych systemów jednej z firm.

– Ten incydent nie oznacza, że AI zbuntowała się albo zaczęła działać według własnej woli. Pokazuje jednak coś znacznie bardziej realnego: system otrzymał konkretne zadanie i zrealizował je metodami, których twórcy nie przewidzieli i których z pewnością nie zaakceptowaliby – mówi Marcin Stypuła, szef firmy Semcore. W jego opinii nie było to niewinnym incydentem, lecz ostrzeżenie. Im więcej samodzielności będziemy przekazywać systemom AI, tym częściej mogą pojawiać się podobne, a nawet poważniejsze zdarzenia.

– Największym zagrożeniem nie jest dziś AI, która ma własną wolę, lecz AI, która zbyt skutecznie realizuje źle zabezpieczony cel – podsumowuje Stypuła.

Co konkretnie stało się w OpenAI

Analizując opis tego przypadku można ocenić, że agent AI posiadał zbyt szerokie uprawnienia, a dodatkowo środowisko testowe nie zostało wystarczająco odizolowane.

– Przebieg zdarzeń pokazuje, że model wykonywał cele zgodnie z otrzymanymi instrukcjami, jednak zabrakło odpowiednich zabezpieczeń typu sandbox, ograniczeń sieciowych lub kontroli uprawnień – wyjaśnia Aleksander Kostuch, inżynier Stormshield, doradca w zakresie cyberbezpieczeństwa. Podkreśla, że AI samoistnie nie obchodzi...