Ulubione narzędzie pracowników: firmy muszą uważać na AI

Największym ryzykiem związanym z shadow AI jest udostępnienie na zewnątrz poufnych danych firmy, w tym tych dotyczących klientów – mówi Matt Ausman, CIO w Zebra Technologies.

Jakie ryzyko dla przedsiębiorstw wiąże się z tym, że poufne dane, nagrania i rozmowy mogą być przetwarzane przez zewnętrzne aplikacje AI, które znajdują się poza kontrolą firmowych systemów ( tzw. shadow AI)?

Największym ryzykiem jest udostępnienie na zewnątrz poufnych danych firmy (w tym tych dotyczących klientów). Często warunki umowy z dostawcą zezwalają na ich ponowne wykorzystanie. Jeśli narzędzie AI jest bezpłatne, firma, która je udostępnia, w jakiś sposób musi zarabiać pieniądze. Prawdopodobnie dzieje się to dzięki danym. Może się też zdarzyć, że firma lub dostawca AI nieumyślnie umożliwią ujawnienie danych. Przykładowo w wyniku cyberataków, niewłaściwych kontroli systemu itp.

O jakie dane dochodzi?

Firmy często udostępniają poufne informacje o sobie, swoich pracownikach, klientach i partnerach za pośrednictwem wideokonferencji, rozmów audio, komunikatorów internetowych oraz wiadomości e-mail. Mogą to być dane finansowe, dotyczące własności intelektualnej, zarządzania lub dane osobowe, które wymagają wyższego poziomu bezpieczeństwa przechowywania, dostępu, komunikacji i niszczenia.

Jeśli organizacja zezwala pracownikom lub stronom trzecim na korzystanie z własnych generatywnych (każdy system...