Bot otwiera drzwi do tajemnic firmy

autor zdjęcia: shutterstock

źródło: Rzeczpospolita

Nawet najnowszy model AI GPT-5, ze wszystkimi ulepszeniami w zakresie rozumowania, dał się nabrać na podstawowe sztuczki logiczne

Już 13 proc. przedsiębiorstw i instytucji zgłosiło naruszenia bezpieczeństwa modeli lub aplikacji AI. Niemal w każdym z tych przypadków brakowało kontroli dostępu do takich narzędzi.

Ledwie GPT-5 zadebiutował, a już ten najnowszy duży model językowy (LLM) od OpenAI został złamany, choć na szczęście nie przez hakerów, lecz badaczy bezpieczeństwa. Wystarczyły im ledwie 24 godziny. Premiera narzędzia pokazała, że sztuczna inteligencja stanie się codziennością i podstawą działalności praktycznie większości biznesów, ale działania ekspertów dowiodły, iż teraz istotne stają się kwestie zabezpieczeń systemów AI.

GPT-5 zhakowany

Błyskawiczne zhakowanie GPT-5 ujawniło krytyczne luki i poddało w wątpliwość gotowość technologii do wdrożeń w środowiskach korporacyjnych, gdzie bezpieczeństwo danych jest priorytetem. Za tym „eksperymentem” stały dwie znane firmy z branży cyberbezpieczeństwa – NeuralTrust i SPLX. Co ciekawe, niezależnie od siebie zademonstrowały, jak można ominąć wbudowane w model mechanizmy ochronne. Badacze z NeuralTrust wykorzystali autorską technikę „Echo Chamber” (z ang. komora echa), połączoną z...