Sztuczna inteligencja już działa za ludzi. I tu pojawił się problem

autor zdjęcia: Angel Garcia/Bloomberg

źródło: Rzeczpospolita

Rynek agentów AI rośnie szybciej niż mechanizmy bezpieczeństwa, a to rodzi uzasadnione obawy

Coraz więcej firm stawia na autonomiczną AI, która samodzielnie planuje kolejne kroki, korzysta z zewnętrznych narzędzi i wykonuje operacje prowadzące do zadanego celu. Potencjał takich rozwiązań jest ogromny.

Eksperci zwracają uwagę, że dziś rynek agentów AI rośnie szybciej niż mechanizmy bezpieczeństwa, a to rodzi uzasadnione obawy. O skutkach niewłaściwie wyznaczonych granic działania przypomniały incydenty ujawnione niedawno przez OpenAI i Anthropic, w których ich narzędziom AI podczas zadań testowych udało się dostać do systemów innych firm. Te modele konsekwentnie poszukiwały drogi do realizacji celu i łączyły wiele działań w sekwencje, które nie były wcześniej przewidziane. Analitycy ostrzegają: Podobny mechanizm może wystąpić w zwykłym procesie biznesowym – agent otrzymujący ogólne polecenie może zdecydować się na zmianę danych w systemie, przyznanie rabatu, wysłanie wiadomości lub pobranie dodatkowych dokumentów.

Boom na agentową sztuczną inteligencję

Choć, jak wynika z najnowszych badań, tylko 17 proc. przedsiębiorstw wdrożyło dotychczas agentów AI, to ponad 60 proc. ankietowanych zamierza zrobić to w ciągu najbliższych dwóch lat. Gartner prognozuje, że tylko do końca br. wyspecjalizowane agenty będą zintegrowane nawet z 40 proc. aplikacji biznesowych (rok wcześniej było to mniej niż 5 proc.). Technologia ta błyskawicznie przechodzi więc z etapu eksperymentów do codziennych procesów firm. Problem w tym, że agent AI nie tylko analizuje dane i przygotowuje odpowiedzi, ale...