AI zagrożeniem dla przedsiębiorstw. Bot oszuka i wykradnie informacje?

źródło: Rzeczpospolita

W ciągu roku liczba incydentów z udziałem sztucznej inteligencji, w których ucierpiały firmowe dane, skoczyła dwuipółkrotnie. Na dodatek eksperci właśnie wykryli, że hakerzy majstrują przy chatbotach.

Najnowsze badania pokazują, że wysyp rozwiązań bazujących na sztucznej inteligencji to nowe ryzyko, z którym muszą zmierzyć się przedsiębiorcy. Jedna na dziesięć aplikacji AI zagraża bezpieczeństwu firmowych danych. To olbrzymie wyzwanie, bo – jak alarmują analitycy Palo Alto Networks – aplikacje AI wprowadzane są często do środowisk pracy bez zgody lub nadzoru działów IT. Efekt? W 2025 r. średnia miesięczna liczba incydentów związanych z bezpieczeństwem danych podczas korzystania z nieautoryzowanych narzędzi tego typu wzrosła aż dwuipółkrotnie.

Czy asystent pisania jest bezpieczny?

Generatywna sztuczna inteligencja (genAI) w kilka lat przeszła drogę od nowinki do jednego z kluczowych motorów napędowych gospodarki, a rosnąca presja na wzrost produktywności i pozornie proste rozwiązanie w postaci asystentów AI doprowadziły do tego, że firmy rzuciły się na tę technologię, przekazując terabajty danych na serwery dziesiątek nieautoryzowanych aplikacji genAI. O skali zjawiska świadczy fakt, iż w ub.r. wykorzystanie takich narzędzi w firmach wzrosło o jedną trzecią, co oznacza, że dynamika była większa niż w przypadku oprogramowania SaaS (software-as-a-service), na które popyt rósł w tempie 20 proc. Co więcej, szacuje się, że dziś przeciętne przedsiębiorstwo korzysta nawet z kilkudziesięciu rozwiązań genAI, z czego aż 10 proc. klasyfikuje się jako rozwiązania...