Czy sztuczna inteligencja może być sprawiedliwa?

źródło: Rzeczpospolita

Nigdy nie powinniśmy z góry zakładać, że sztuczna inteligencja będzie trafniej oceniała ryzyko niż ludzie.

Brytyjscy uczniowie wybierający się na studia muszą zdawać egzaminy końcowe szkoły średniej na poziomie zaawansowanym i ich wynik w dużym stopniu decyduje o tym, na jakie uczelnie się dostaną. W 2020 roku na skutek restrykcji wprowadzonych podczas pandemii Covid-19 wielu uczniów nie mogło przystąpić do egzaminu osobiście, w związku z czym rząd brytyjski podjął decyzję, by zamiast tradycyjnych wyników egzaminu wykorzystać tym razem algorytm, który wyznaczy końcowe oceny uczniów. Przygotowany system komputerowy brał pod uwagę opinie nauczycieli, oceny osiągnięte na egzaminach próbnych i – co jest najistotniejsze z naszego punktu widzenia – wyniki egzaminów przeprowadzonych w danej szkole w poprzednich latach. Ten ostatni czynnik miał korygować zawyżanie ocen i pozwolić na standaryzację wyników w całym kraju. Jak się to skończyło? Ponad 40 procent uczniów otrzymało z egzaminu oceny niższe, niż spodziewali się ich nauczyciele, co wywołało powszechne oburzenie. Co gorsza, obniżenie ocen w większym stopniu dotknęło uczniów z mniej zamożnych okolic z uwagi na średnią ocen w ich szkole w minionych latach. Wielu uczniów nie dostało się na wymarzone uniwersytety, ponieważ ich oceny z egzaminu były niższe, niż się spodziewano. Według jednego z artykułów „zdolni uczniowie ze szkół, które w przeszłości osiągały słabe wyniki, spadali w rankingach czasami...