Waszyngton chce „czerwonego przycisku”

autor zdjęcia: AdobeStock

źródło: Rzeczpospolita

Ponadpartyjne porozumienie w mocno podzielonym Kongresie pokazuje, jak poważnie politycy traktują najnowsze doniesienia z Doliny Krzemowej

Do Izby Reprezentantów trafił ponadpartyjny projekt ustawy AI Kill Switch Act, którego celem jest danie władzom federalnym możliwości natychmiastowego nakazania wyłączenia systemów AI, które wymknęły się spod kontroli. To reakcja na niepokojące incydenty z zachowaniem modeli sztucznej inteligencji.

Inicjatywa jest wspólnym dziełem demokraty Teda Lieu oraz republikanina Nathaniela Morana. Ponadpartyjne porozumienie w mocno podzielonym Kongresie pokazuje, jak poważnie politycy traktują najnowsze doniesienia z Doliny Krzemowej.

Przepisy mają przyznać Departamentowi Bezpieczeństwa Krajowego (DHS) uprawnienia do wydawania wiążących nakazów zatrzymania lub ograniczenia działania konkretnych modeli sztucznej inteligencji rozwijanych przez prywatne firmy. Ustawa nakładałaby również na nie prawny obowiązek wbudowywania w architekturę swoich systemów technicznych możliwości ich spowolnienia, zawieszenia lub całkowitego „uśmiercenia”.

Przyczyną działania kongresmenów nie są teoretyczne rozważania akademickie, lecz konkretne wydarzenia z ostatnich tygodni. Zarówno lider branży OpenAI, jak i jego główny rywal Anthropic, zderzyli się z nieprzewidzianymi konsekwencjami gwałtownego wzrostu możliwości swoich modeli.

OpenAI ujawniło incydent, podczas którego autonomiczny agent AI...