Co AI Act zmienia w bankach. „Halo, to mówi bot”

Koniec z voicebotami udającymi żywych ludzi, niejasną automatyzacją i podszywaniem się pod banki za pomocą deepfake’ów. Przejrzystość algorytmów na pierwszym planie.

W życie wszedł kolejny pakiet przepisów unijnego AI Act, który reguluje wykorzystanie sztucznej inteligencji w gospodarce. Od 2 sierpnia również banki muszą spełniać nowe obowiązki dotyczące przejrzystości interakcji z AI i oznaczania treści generowanych przez algorytmy. Co oznacza to dla klientów i jakie wyzwania stawia przed bankami?

Klient musi wiedzieć

Założeniem nowych regulacji UE jest absolutna jawność w relacjach banku z klientem. Jak podkreśla Karol Tajduś z Banku Pekao, oznacza to definitywny koniec z botami, które mogłyby udawać żywych doradców. Bank Millennium wyjaśnia: „W przypadku rozwiązań mających bezpośredni kontakt z klientem, takich jak chatboty czy wirtualni asystenci, użytkownik powinien być informowany, że komunikuje się z systemem sztucznej inteligencji. Informacje te mogą być prezentowane w formie np. komunikatów głosowych lub tekstowych, regulaminów i oznaczeń w kanałach cyfrowych".

Według AI Act, wszystkie treści syntetyczne muszą być wyraźnie oznaczone. Algorytmy AI mają być nadzorowane przez człowieka, mają wspierać procesy, a nie podejmować autonomicznie decyzji. Klient zyskuje...