Gigafabryka AI to gigaodpowiedzialność

autor zdjęcia: mat. pras.

źródło: Rzeczpospolita

Póki Europa nie ma własnego odpowiednika ChatGPT, kwestia efektywności regulacji unijnych w zabezpieczeniu nas przed zagrożeniami związanymi z tą transformacyjną technologią stoi pod znakiem zapytania – pisze działaczka ruchu PauseAi.

W połowie lipca rząd przyjął uchwałę, dzięki której Polska będzie mogła uczestniczyć w unijnym programie Gigafabryk AI. W ogłoszeniu wydanym przez Ministerstwo Cyfryzacji przeczytamy o samych korzyściach wynikających z projektu. Całkowicie pominięto natomiast temat bezpieczeństwa AI czy wpływu środowiskowego i energetycznego inwestycji. Stąd apel do ministerstwa o zainicjowanie debaty publicznej na temat rozwoju AI w Polsce i o bycie wiodącym głosem w temacie bezpieczeństwa AI na arenie międzynarodowej.

Historia sztucznej inteligencji (SI) już dawno przestała być tylko opowieścią o lepszych narzędziach, a coraz bardziej o ryzykach związanych z wdrażaniem ich na coraz większą skalę. Zagrożenia te można podzielić na dwie kategorie: te związane z nadużyciem (z ang. misuse) i te o niezgodności celów (misalignment).

Do nadużyć zaliczamy sytuacje, w których narzędzia AI są wykorzystywane przez kogoś o złych zamiarach. Mowa tu chociażby o generowaniu deepfake’ów (nie tylko polityków, ale też np. pornografii dziecięcej) i fake newsów czy o przeprowadzaniu cyberataków.

Druga kategoria dotyczy rozwijania systemów, które mogą przewyższyć nasz poziom inteligencji, prowadząc do sytuacji utraty kontroli, jeżeli ich cele nie będą zgodne z naszymi (patrz niedopasowanie/misalignment). Problem ten dobrze oddaje przykład zaledwie sprzed kilkunastu dni, kiedy to Agent AI...