AI halucynuje, zamawiający mają więcej pracy

Z perspektywy zamawiającego | Sztuczna inteligencja a wiarygodność dokumentów w zamówieniach publicznych

Generatywna sztuczna inteligencja radykalnie obniżyła koszt tworzenia tekstów. Dokumenty, których przygotowanie jeszcze kilka lat temu wymagało wielu godzin pracy, dziś mogą powstać w kilkanaście minut. Problem polega jednak na tym, że modele językowe potrafią tworzyć treści brzmiące profesjonalnie i przekonująco, mimo że zawierają nieistniejące orzeczenia, błędne interpretacje lub fikcyjne podstawy prawne. Koszt wytworzenia dokumentu spadł niemal do zera, natomiast koszt jego weryfikacji został przeniesiony na odbiorcę.

Zjawisko to określa się mianem deceptive fluency – sytuacji, w  której tekst jest formalnie poprawny i językowo przekonujący, lecz merytorycznie nieprawdziwy. Problem nie polega wyłącznie na tym, że AI popełnia błędy. Znacznie poważniejsze jest to, że na podstawie samego stylu wypowiedzi nie sposób odróżnić informacji prawdziwych od fikcyjnych. Każde przywołane orzeczenie, interpretacja podatkowa czy przepis wymagają więc sprawdzenia w odpowiednich bazach danych, co przy obszernych dokumentach oznacza wiele godzin dodatkowej pracy.

Konsekwencje tego zjawiska są już widoczne również w polskiej administracji publicznej. W październiku 2025 r. Krajowa Izba Odwoławcza wykluczyła wykonawcę z postępowania i odrzuciła jego ofertę,...