Cztery błędy przy korzystaniu z AI

Nowe technologie | Pułapki sztucznej inteligencji w zamówieniach publicznych

Sztuczna inteligencja wdarła się przebojem do kancelarii prawnych i wykonawców. Nieco wolniej ta absorpcja wygląda u zamawiających, ale i oni nie pozostają obojętni na obietnice składane przez dostawców narzędzi opartych na sztucznej inteligencji. Trudno bowiem przejść obojętnie wobec możliwości szybszej pracy, błyskawicznej analizy dokumentów oraz generowania treści.

Jednak w rygorystycznym świecie prawa zamówień publicznych bezkrytyczne zaufanie do narzędzi AI może skończyć się katastrofą. Poniżej omawiam kluczowe obszary ryzyka – od etapu składania ofert, przez postępowania odwoławcze, aż po realizację umów – wskazując, jak uniknąć wpadek zarówno po stronie wykonawcy, jak i zamawiającego.

Błąd 1: AI przy składaniu ofert

Największym grzechem w pracy z generatywną sztuczną inteligencją (taką jak ChatGPT, Claude lub Gemini) jest zaniechanie weryfikacji jej odpowiedzi. Modele językowe mają tendencję do „halucynowania”, czyli tworzenia treści brzmiących wiarygodnie, ale całkowicie zmyślonych. Nie jest to wada tych systemów, ale ich właściwość. Systemów AI nie powinno się traktować jako systemów wiedzy, lecz jako systemy do przetwarzania danych podanych przez użytkownika. Traktowanie ich jako wyszukiwarki wiedzy prowadzi do powstawania błędów,...