Mobilna aplikacja internetowa TikTok już od dłuższego czasu podbija sieć. W witrynie internetowej można oglądać krótkie filmiki i co ważniejsze, korzysta z niej coraz więcej sławnych osób. Pomaga to z pewnością fanom gwiazd podejrzeć ich codzienne życie. Gdy sieć obiegła informacja, że do grona nagrywających dołączył sam Tom Cruise, nic dziwnego, że jego profil w krótkim czasie zdobył ogromną popularność. Jednak szybko okazało się, że to oszustwo.
Tom Cruise na TikToku nie jest Tomem Cruisem. To deepfake
Do wtorku serię filmików, których autorem miał być hollywoodzki aktor, obejrzało 11 mln użytkowników. Na zamieszczonych wideo Tom Cruise grał w golfa, opowiadał zabawną historię czy pokazywał sztuczki z monetą. Za każdym razem internauci byli przekonani, że robi to aktor - w końcu postać wyglądała dokładnie tak, jak on.
Okazało się jednak, że widoczny Tom Cruise na filmikach był wytworem sztucznej inteligencji, czyli tak zwanego deepfake'a. Jego śmiech, wypowiadane słowa i miny zostały stworzone komputerowo za pomocą programu, który w nadzwyczaj wierny sposób odwzorowuje prawdziwe wizerunki i "nakłada" cyfrową twarz na odgrywającego rolę aktora. Widz nie dysponuje tak naprawdę żadnym narzędziem, które pomoże mu stwierdzić, czy ma do czynienia z prawdziwym Tomem, czy też z jego cyfrowym deepfakiem. Co gorsza, TikTok w tej sprawie również zawiódł i długo nie uznawał konta fałszywego Toma Cruise'a za fałszywkę.
Według londyńskiej gazety "Times" nazwa profilu "deeptomcruise" wystarczała portalowi, by pozostawić profil rzekomego Cruise'a w serwisie. Ich zdaniem nazwa od początku wskazywała, że jest to fałszywe konto, zaś sam serwis zareagowałby dopiero, gdyby nazwa sugerowała, że użytkownik ma do czynienia z prawdziwym Tomem Cruisem.
Po reakcji internautów TikTok usunął jednak wszystkie filmiki, a jako powód podał: wprowadzanie użytkowników w błąd, zniekształcanie prawdy o wydarzeniach i szkodzenie podmiotowi filmu, innym osobom lub społeczeństwu.
Fałszywe konto Cruise'a i ogromny problem społeczny
Choć nie wiadomo, kto stał za stworzeniem tak idealnego nagrania zaginającego rzeczywistość, potwierdziły się tylko obawy ekspertów, którzy już od kilku lat alarmują, że technologia deepfake jest niebezpieczna i może być wykorzystywana w niecnym celu. Tu mieliśmy do czynienia "tylko" z udawaniem Toma Cruise'a - docelowo nieszkodliwym. Jednak za pomocą tej samej technologii nakłada się np. twarze prawdziwych aktorek na twarze aktorek w filmach porno:
Ta technologia nie zniknie - powiedział ekspert Henry Ajder, ostrzegając, że chociaż filmy Cruise są zabawne, istnieje również ogromna liczba naprawdę negatywnych i złośliwych przypadków nadużycia technologii.
Natomiast profesor Uniwersytetu Kalifornijskiego w Berkeley, Hany Farid, nazwał te filmy "niewiarygodnie dobrze zrobionymi", tym samym dołączając do innych ekspertów, którzy powiedzieli, że klipy należą do najbardziej realistycznych, jakie powstały do tej pory.
Rachel Tobac, dyrektor generalna firmy SocialProof zajmującej się bezpieczeństwem online, napisała na Twitterze, że filmy dowiodły, że osiągnęliśmy etap niewykrywalnych deepfake'ów - dopóki ich realizator się do tego nie przyzna, nie mamy możliwości stwierdzić, że dane nagranie nie jest prawdziwe:
Deepfake wpłyną na zaufanie publiczne. Będą (o ile już nie są) wykorzystywane do manipulowania, upokarzania i ranienia ludzi.
Choć filmy zostały usunięte, poniżej możecie zobaczyć wideo, które wgrano na serwis YouTube. Trzeba przyznać, że podobizna aktora jest niepokojąco dobrze zrobiona.
