Kiedy scoring społeczny będzie zakazany przez AI Act

AI Act, który wchodzi w życie już 2 sierpnia, będzie miał pewne przełożenie na niektóre modele biznesowe i podejście do człowieka w kontekście wykorzystywania systemów sztucznej inteligencji.

AI Act będzie w tej materii oddziaływać nie tylko za sprawą restrykcyjnych wymogów w odniesieniu do tzw. systemów wysokiego ryzyka, ale także zakazów, które ustanawia w art. 5. Zakazy te będą obowiązywały względem systemów AI już od 2 lutego 2025 r., co będzie implikować konieczność albo usunięcia ich z obrotu lub użytkowania, albo ich modyfikacji w taki sposób, aby nie wypełniały one przesłanki praktyki zakazanej. Naruszenie tego zakazu będzie wiązało się z możliwością nałożenia przez właściwy organ kary administracyjnej w wysokości 30 mln euro lub 6 proc. globalnego obrotu, co dla wielu podmiotów będzie stanowiło niewątpliwie „straszak”. Oczywiście lepiej byłoby, aby decyzja o wycofaniu się ze stosowania takich systemów była wynikiem oceny moralnej, ale nie oszukujmy się – w wielu przypadkach groźba kary stanowi większy „motywator”.

Zakazane praktyki

O trzech praktykach zakazanych (manipulacja, wykorzystywanie słabości, rozpoznawanie emocji w miejscu pracy) pisałem już wcześniej, choć do tematu jeszcze będziemy z pewnością wracać. Dzisiaj zajmiemy się praktyką dość nieoczywistą, bo na pierwszy rzut oka skierowaną do podmiotów publicznych, a w rzeczywistości obejmującą także podmioty prywatne. Chodzi mianowicie o scoring społeczny, który w pewnym zakresie ma zostać zakazany, jeśli jest wykorzystywany na podstawie...