„AI Habsburgów”. Naukowcy alarmują: AI ulega degradacji

autor zdjęcia: mat. pras.

źródło: Rzeczpospolita

W przypadku zapaści modeli AI używa się określenia „AI Habsburgów” w nawiązaniu do degeneracji tej dynastii, która była efektem małżeństw wewnątrz rodziny. Skutkowało to m.in. wysuniętą dolną szczęką

Widać postępującą degradację jakości wyników AI, objawiającą się utratą różnorodności i zdolności do wychwytywania niuansów. Ale to nie sztuczna inteligencja jest winna, lecz nasze własne lenistwo i szukanie dróg na skróty.

Naukowcy z Oxfordu i Cambridge alarmują: jakość odpowiedzi tworzonych przez sztuczną inteligencję spada. – Choć trudno mówić o powszechnym „głupieniu” AI, warto zwrócić uwagę na zjawisko określane jako model collapse, czyli zapadanie się modeli. Dochodzi do niego, gdy kolejne generacje systemów AI są trenowane na treściach syntetycznych, wygenerowanych przez ich poprzedników. Błędy, które początkowo mają charakter marginalny, zaczynają się utrwalać i przenikać do kolejnych wersji systemów jako element ich obrazu rzeczywistości – wyjaśnia Patryk Oleszczuk, ekspert technologiczny SaldeoSMART.

AI zjada własny ogon?

Pobieranie i używanie wygenerowanych przez AI danych na potrzeby treningu kolejnych modeli stanowi cyfrowy odpowiednik znanego z biologii chowu wsobnego.

– Inne, używane w branży określenia to „kanibalizm AI” czy „AI Habsburgów” – mówi Michał Grega, prezes Aiseemo i członek AI Chamber. Podkreśla, że zasadniczy problem nie polega na tym, że „AI staje się głupsza” w potocznym sensie. Mówiąc precyzyjnie, modele trenowane rekurencyjnie na treściach generowanych przez wcześniejsze modele mogą stopniowo tracić zdolność odwzorowania prawdziwego rozkładu danych. Najpierw znikają przypadki rzadkie, nietypowe i brzegowe, a więc te, które często są najważniejsze z punktu widzenia jakości, bezpieczeństwa i reprezentatywności tworzonych...