Deepfake, matka wszystkich broni nuklearnych

Prawodawcy na całym świecie zwracają uwagę na problem tworzenia i przestępczego wykorzystywania treści o charakterze deepfake.

Deepfake, przedstawiając realistycznie osoby, przedmioty i miejsca, zaciera granice między rzeczywistością a fikcją. Potęguje obawy o ochronę prywatności, wizerunku i bezpieczeństwo. Każe stawiać pytania o konsekwencje etyczne i polityczne, a także o zaufanie do mediów, autorytetów i rządów.

Każdego dnia pojawiają się przykłady wykorzystywania tej technologii w niegodziwych celach. 10 września 2024 r., tuż po debacie Harris–Trump, w sieci pojawiło się nagranie niezwykle popularnej piosenkarki, w którym popiera Kamalę Harris. Nie byłoby w tym nic niezwykłego, gdyby nie powód tak szybkiej reakcji. Taylor Swift chciała w ten sposób przeciwdziałać rozprzestrzenianiu się deepfake'a, w którym rzekomo popiera Trumpa, a który stał się wiralem w sieciach społecznościowych.

Nielegalny deepfake może jednak dotknąć nie tylko celebrytów czy polityków. Może dotknąć każdego – także dzieci.

Jak podaje lokalna bydgoska prasa, dwóch uczniów stanie przed sądem za wirtualne rozebranie koleżanki. Nastolatkowie przetworzyli i zmanipulowali jej zdjęcie. Dodali jej twarz do zdjęcia innej dziewczyny, uprawiającej seks. Wykorzystali do tego dostępne powszechnie narzędzia generatywnej sztucznej inteligencji.

Portal MIT Technology Review cytuje zaś profesora Uniwersytetu Kalifornijskiego w Berkeley Hany’ego Forda: „Właśnie daliśmy licealistom matkę...