„Moment Hindenburga” dla AI?

autor zdjęcia: mat. pras.

źródło: Rzeczpospolita

Katastrofa niemieckiego sterowca Hindenburg doprowadziła do zatrzymania prac i rozwoju tego typu statków powietrznych

Presja, by jak najszybciej wprowadzać nowe narzędzia AI na rynek, może doprowadzić do spektakularnej katastrofy, która zniszczy globalne zaufanie do technologii – ostrzega znany naukowiec.

Michael Wooldridge, profesor sztucznej inteligencji na Uniwersytecie Oksfordzkim, powiedział, że zagrożenie wynika z pośpiechu ogromnej presji komercyjnej, pod jaką znajdują się firmy technologiczne, aby wypuszczać nowe narzędzia AI. Nagły wzrost liczby chatbotów AI wyposażonych w zabezpieczenia, które jednak można łatwo ominąć, pokazuje – jego zdaniem – że bodźce komercyjne mają pierwszeństwo przed bardziej ostrożnym rozwojem i testami bezpieczeństwa.

Presja komercyjna kontra bezpieczeństwo

– To klasyczny scenariusz technologiczny – powiedział, cytowany przez „The Guardian”. – Mamy technologię, która jest bardzo, bardzo obiecująca, ale nie została przetestowana tak rygorystycznie, jak byśmy sobie tego życzyli, a presja komercyjna stojąca za nią jest nie do wytrzymania.

Wooldridge, który jest wybitnym ekspertem od logiki AI, dyrektorem ds. fundamentów AI w Instytucie Alana Turinga w Londynie oraz autorem poczytnych książek popularnonaukowych, takich jak „Droga do świadomych maszyn”, uważa, że „moment Hindenburga” jest „bardzo prawdopodobny”. Niemiecki sterowiec Hindenburg, mierzący 245 metrów i wykonujący rejsy przez Atlantyk, stanął w płomieniach 6 maja 1937 r., podczas lądowania w New Jersey w USA....