Busola sprawiedliwości dla AI

Jak klasyfikować systemy sztucznej inteligencji w obszarze sprawowania wymiaru sprawiedliwości.

Akt w sprawie sztucznej inteligencji (Akt) został przyjęty przez Parlament Europejski. Przepisy, które na poziomie Unii Europejskiej będą odnosić do się do systemów sztucznej inteligencji, niedługo wejdą w życie.

Akt definiuje pojęcie systemów sztucznej inteligencji. W zależności od poziomu ryzyka dokonuje klasyfikacji takich systemów. Wedle określonej klasyfikacji wprowadza wymogi m.in. dla podmiotów dostarczających, jak również dla podmiotów korzystających z takich systemów.

Piętra regulacji

Na szczycie piramidy ryzyka znajdują się tzw. praktyki zakazane. Wymienione w art. 5 Aktu praktyki objęte są całkowitym zakazem stosowania, co oznacza, że wykorzystywanie określonych technik w systemach oraz wykorzystywanie takich systemów do określonych celów jest całkowicie zakazane.

Kolejnym piętrem są systemy wysokiego ryzyka. Ich stosowanie jest dozwolone, ale po spełnieniu restrykcyjnych wynikających z Aktu wymogów, zarówno oceny ryzyka, jak i zapewnienia bezpieczeństwa czy szeroko rozumianej ochrony praw osób, które wchodzą w interakcję z takim systemem.

Systemy wysokiego ryzyka identyfikowane są poprzez dwa podstawowe kryteria oceny. Pierwszym kryterium jest przesądzenie, że system taki stanowi produkt lub element bezpieczeństwa produktu objętego unijnym prawodawstwem harmonizacyjnym (lista...