Ponad 11 mln użytkowników zobaczyło deepfake z Tomem Cruisem. "Ta technologia rozwija się w szalonym tempie"

Deepfake to filmy (z ang. od deep learning - głębokie uczenie i fake - fałszywki), które powstały za pomocą obróbki dźwięku i obrazu i służy do stworzenia nierealistycznych nagrań wideo. Oznacza to, że możemy dowolną osobę przedstawić jako inną, zmienić wypowiadane przez nią słowa czy miejsce w którym się znajduje. Filmy są tak realistyczne, że często praktycznie niemożliwe jest odróżnienie ich od prawdziwych sytuacji i postaci. Algorytm uczenia maszynowego może wykorzystać np. wizerunek znanych osób czy słowa, które wypowiedziały w innym kontekście.

W ciągu ostatnich kilku dni na platformie Tik Tok pojawiło się nagranie z mężczyzną do złudzenia przypominającym Toma Cruise’a. Filmiki już zostały oznaczone jako prywatne nagrania (zatem nie można ich obejrzeć), ale do tego czasu obejrzano je 11 milionów razy, a kopia nagrania jest dostępna na YouTube.

Niedługo eksperci nie będą mogli odróżnić prawdy od deepfake

Zapytaliśmy ekspertów, co sądzą o technologii deepfake czy rolą właścicieli platform społecznościowych, czy raczej mediów będzie edukowanie o tym zjawisku jako groźnym dla użytkowników. Jakub Biel, specjalista ds. marketingu Tik Toka i szef marketingu w Green Cell uważa, że technologia deepfake rozwija się w tak szalonym tempie, że "za niedługo nawet eksperci nie będą w stanie odróżnić prawdziwego nagrania od deep fake'a". - Taką samą drogę przechodziliśmy z fotografią i to całkiem niedawno. Teraz każdy student może zrobić fotomontaż, który wygląda jak piękny oryginał - stwierdza.

Jednocześnie pytany czy to rolą platform będzie oznaczanie wideo jako fałszywą treść odpowiada: - Jeśli Pornhub potrafi sobie z tym radzić, to nie widzę powodów, dla których inne platformy miałyby tego nie robić. Podejrzewam, że oznaczane będą materiały potrzebujące weryfikacji, a te wprost fałszywe będą usuwane od razu. Jeśli założymy, że deep fake nie powstaje z niczego, a z nagrań i zdjęć już istniejących, to jest szansa, że algorytmy sporo z nich wyłapią - ocenia Jakub Biel w komentarzu dla Wirtualnemedia.pl.

Jego zdaniem, bez świadomości problemu trudne będzie ostrzeganie szczególnie starszych ludzi przed zagrożeniem. - Pamiętajmy, że ludzie nabierają się na konkursy podszywające się pod Biedronkę czy Media Markt, więc bez świadomości nic się nie uda. Obawiam się, że dla starszych ludzi będzie to zbyt trudne - podsumowuje.

Rośnie skala syntetycznej kradzieży tożsamości

Natomiast Sylwia Czubkowska, redaktor prowadząca Spider'sWeb+ uważa, że to, że technologie pozwalające stworzyć zaawansowane deepfake będą coraz poważniejszym problemem "wiemy od dłuższego czasu". - Wciąż jednak wydawało nam się, że jeszcze mamy czas by zająć się tym zjawiskiem i na nie przygotować. Niestety jest to błędne myślenie. Już sama rosnąca skala tzw. syntetycznej kradzieży tożsamości, czyli wykorzystywania fragmentów naszej tożsamości w postaci np. zdjęć z mediów społecznościowych do działań złośliwych, a często wręcz przestępczych powinna nas uwrażliwić na kwestię niebezpiecznego wykorzystania wizerunku - podkreśla.

- Tu mamy jeszcze dosyć łatwą do zweryfikowania sprawę, bo dotyczącą osoby publicznej, ba powszechnie znanej i są w miarę niewinne - zwraca uwagę na przykład wideo z Tomem Cruisem. - A co gdy takie deepfakes zaczną powstawać na bazie wizerunków polityków? Próbkę tego, jaki może mieć to skutek widzieliśmy w świetnym serialu BBC "Rok za rokiem". Tam - owszem w formie opowieści political fiction - dzięki technologiom w zmanipulowany sposób "wypowiadali się" lokalni politycy. I niby było to prostowane i tłumaczone ludziom, że to nie były prawdziwe wypowiedzi, a i tak odbiór społeczny był w tonie: "może nie jest to prawdziwa wypowiedź, ale przecież ten polityk i tak właśnie tak sądzi" - podaje przykład Sylwia Czubkowska.

Redaktor prowadząca Spider'sWeb+ zaznacza, że nie wierzy, że wystarczy samo działanie mediów i fact checkerów do rozbrajania tego typu technologii. - Coraz więcej mówi się o zaprzęgnięciu technologii blockchain do wskazywania dezinformacji i deepfake, więc raczej takie działania - rozwijane także przez media społecznościowe - powinny być wdrażane, a treści skonstruowane na bazie wizerunków prawdziwych osób - oflagowywane jako sztucznie stworzone - komentuje dla Wirtualnemedia.pl.

Kluczowa edukacja

Wojtek Kardyś, ekspert ds. social mediów i współwłaściciel agencji Good for You stwierdza, że deep fake jest poważnym problemem i to "już nie jest hipoteza z książek czy filmów SF". - Na Youtube można znaleźć setki przykładów wykorzystania tego oszustwa, zaś ostatnie filmy z fałszywym (idealnie wygenerowanym) Tom Cruisem tylko podgrzewają atmosferę, bo deep fake to nie jest specjalistyczna wiedza, która potrzebuje ogromnych nakładów budżetowych - jest mnóstwo (niekiedy darmowych, jak FaceApp) narzędzi, które pozwolą nam skorzystać z tej "usługi". Uważam, że stworzenie nieodróżnialnych deepfake'ów od rzeczywistości, to tylko kwestia czasu. To tym bardziej przeraża, bo w końcu jesteśmy przyzwyczajeni do nagrań jako "wartości dowodowej" (obraz i dźwięk). Wierzymy w wideo - ocenia.

W jego opinii dla Wirtualnemedia.pl zaznacza, że jeżeli wideo jest realnym zagrożeniem dla demokracji, to rząd powinien natychmiast zareagować. - Powinna powstać specjalna komisja/komórka, która zajmuje się cyberbezpieczeństwem oraz fake newsami, która będzie miała budżet na kampanie uświadamiające jak weryfikować newsy. Powinny powstać specjalne zajęcia
w szkołach, a do osób starszych dotarlibyśmy kampaniami społecznymi w mediach. Rozbudzić ciekawość i świadomość. Musimy uświadomić ludzi, że im mniej "zostawimy w sieci", tym bezpieczniejsi będziemy. Pamiętajmy, że deepfake to nic innego jak uczenie maszynowe, czyli filmy powstają z ogromnej bazy zdjęć i nagrań, które są na siebie nakładane - algorytm je znajduje w sieci - a następnie nakłada mimikę twarzy i głos. Także im mniej materiały źródłowego tym gorszy deepfake. Tylko teraz pytanie - czy rząd, który nie potrafi przeszkolić swoich własnych polityków przed włamaniami hakerów do kont Twitterowych, ma kompetencje by nauczać 38-milionowy kraj? - pytania retorycznie Wojtek Kardyś.

Zaznacza też, że nie należy zapominać o dziennikarzach, którzy muszą odnaleźć się w nowej rzeczywistości. - W czasach gdzie kliki i szybkość ma największe znaczenie, podanie dalej sfabrykowanego video jest czymś absolutnie pewnym. Jak temu zaradzić? Znowu, edukacja, szkolenia i warsztaty. A co z markami i marketerami? Mam nadzieję, że nie nie wykorzystają deep fake'ów do celów marketingowych, co by tylko zbagatelizowało problem. Jeżeli marki chcą pomóc, niech wykorzystają swoje zasięgi do uświadomienia ludzi przed zagrożeniem. Taki CSR byłby bardzo mile widziany zarówno z punktu marketingowego, jak i społecznego - kończy ekspert ds. social mediów.

Pod koniec ubiegłego roku brytyjski Channel 4 wyemitował życzenia od „Królowej Elżbiety II”, które zostały przygotowane w oparciu o technologię deepfake. W ten sposób chciano zwrócić uwagę na problem fałszowania rzeczywistości z użyciem tego narzędzia.