Sztuczna inteligencja: sojusznik czy adwersarz

Im szybciej uświadomimy sobie, że AI wymaga szczególnej opieki, tym szybciej nasze systemy będą mniej podatne na wycieki danych czy inne zagrożenia związane z ich przetwarzaniem.

Wyobraźmy sobie samochód (pół)autonomiczny, do którego zbioru danych treningowych ma dostęp nieuprawniony podmiot trzeci. Podmienia on obrazy, które zawierają stosowne etykiety, w taki sposób, że algorytm uczy się, że drzewo to samochód, a pieszy to drzewo. Skutki takiego treningu, gdyby nie zadziałały odpowiednie „zabezpieczenia”, byłyby opłakane. Oczywiście prawdopodobieństwo, że coś takiego się wydarzy, jest znikome, ale nigdy nie jest zerowe. Podobną technikę można zastosować w innych rozwiązaniach, które mogą być gorzej zabezpieczone.

Przepisy ustawy o krajowym systemie cyberbezpieczeństwa – także nowelizacji – czy rozporządzenia o operacyjnej odporności cyfrowej (DORA) będą stanowić fundament naszego systemu bezpieczeństwa, ale projektując lub zmieniając istniejące ramy, powinniśmy uwzględnić specyfikę systemów sztucznej inteligencji.

Systemy sztucznej inteligencji nie są bezpieczne. To powinno być nasze założenie. Nie dlatego, że mają w sobie jakiś wyjątkowy „komponent” AI, ale dlatego, że zaliczają się do szeroko rozumianych usług ICT i przez to są podatne na te same zagrożenia, które identyfikujemy w kontekście „tradycyjnych” systemów. Różnić się może (ale nie musi) technika przełamywania zabezpieczeń czy ostateczny efekt, ale nie miejmy złudzeń – oprogramowanie, protokoły, procesy i systemy to wszystko są naczynia połączone,...