Cichy wspólnik hakera w firmie

autor zdjęcia: shutterstock

źródło: Rzeczpospolita

Dla człowieka złośliwy prompt może wyglądać jak przypadkowy ciąg znaków lub być całkowicie niewidoczny. Dla maszyny jest to jednak jednoznaczne polecenie

Agent AI wkracza do biznesu, rewolucjonizując wydajność, ale jednocześnie otwierając drzwi cyberprzestępcom. Firmy muszą się mieć na baczności – atak „prompt injection” pozwala przejąć kontrolę nad sztuczną inteligencją.

Okazuje się, że narzędzia, które mają wspierać pracowników, mogą zostać obrócone przeciwko firmie. Ataki typu indirect prompt injection pozwalają hakerom na przejmowanie kontroli nad narzędziami generatywnej sztucznej inteligencji w celu kradzieży danych, manipulacji i sabotażu – a wszystko to dzieje się bez wiedzy i świadomego udziału użytkownika.

Ukryte polecenie

Pracownicy, od analityków po menedżerów, coraz chętniej korzystają z zaawansowanych modeli językowych, takich jak ChatGPT czy Gemini, aby automatyzować zadania, analizować dane i tworzyć raporty. Integracja tych narzędzi z firmowymi systemami, skrzynkami e-mail czy chmurą danych zdaje się być naturalnym krokiem w stronę cyfrowej transformacji. Za fasadą rosnącej produktywności kryje się jednak zagrożenie, przed którym ostrzegają specjaliści od cyberbezpieczeństwa – agenci AI, czyli cyfrowi asystenci, mogą stać się bowiem wykonawcami poleceń hakerów, otwierając im dostęp do najcenniejszych zasobów przedsiębiorstwa. Problem leży w samej...