Deepfake – cyfrowe kłamstwo, które kosztuje miliony

Rozwój AI przyniósł światu wiele przełomów, od automatyzacji procesów, przez generatywne modele tekstowe, aż po tworzenie realistycznych obrazów i filmów. Jednocześnie pojawiło się jednak nowe, bardzo niebezpieczne zjawisko: deepfake.

Technologia, która pierwotnie powstała z myślą o rozrywce i eksperymentach z obrazem, dziś stanowi realne zagrożenie dla firm, rynków finansowych i reputacji globalnych marek.

Internet niebezpieczny dla uczestników

Samo funkcjonowanie sieci internet umożliwia popełnianie niezliczonych przestępstw o charakterze majątkowym. W naszym codziennym funkcjonowania dostrzegamy zagrożenia w postaci licznych akcji phishingowych czy ofert inwestycyjnych pozornie pochodzących z zaufanych źródeł. Obie te formy często prowadzą do utraty oszczędności życia lub kradzieży tożsamości.

Czym właściwie jest deepfake

Słowo „deepfake” powstało z połączenia pojęć deep learning i fake. Oznacza materiał wideo lub audio, który został zmanipulowany przy pomocy sztucznej inteligencji w taki sposób, by naśladować czyjś wygląd, głos lub zachowanie. Europejski ustawodawca w AI Act zdefiniował pojęcie „deepfake” jako „wygenerowane przez AI lub zmanipulowane przez AI obrazy, treści dźwiękowe lub treści wideo, które przypominają istniejące osoby, przedmioty, miejsca, podmioty lub zdarzenia, które odbiorca mógłby niesłusznie uznać za autentyczne lub prawdziwe”.

Wykorzystanie technologii deepfake w połączeniu z siecią internet stwarza wręcz nieograniczone możliwości...