Deep Fake

Deep fake vs deep fake, czyli Google walczy ze zmanipulowanymi nagraniami

Google razem z firmą Jigsaw, należącą do grupy Alphabet, opracowało oraz udostępniło bazę 3 tysięcy zmanipulowanych filmów, tzw. deep fake. Filmy zostały przygotowane specjalnie dla celu projektu, którego zadaniem jest zwalczanie zjawiska deep fake. Przygotowując bazę najpierw nagrano zwykłe filmy, w których bierze udział 28 osób. Każda z nich wykonuje zwykłe czynności, coś przy tym mówiąc i gestykulując. Następnie, za pomocą dostępnego publicznie algorytmu deep fake zmieniono filmy podmieniając twarze i wypowiadane kwestie.

Na blogu Google Research, pracujący nad projektem Nick Dufour oraz Andrew Gully, napisali: Od czasu pierwszego pojawienia się deep fake pod koniec 2017 roku, pojawiło się wiele metod ich generowania o otwartym kodzie źródłowym, co doprowadziło do wzrostu liczby syntetyzowanych klipów medialnych. Wiele z nich jest zabawnych, ale niektóre mogą bardzo szkodzić jednostkom i społeczeństwu. 

Reklama

W kolejnym kroku tak przygotowana baza została włączona do benchmarku FaceForensics opracowanego wspólnie przez Uniwersytet Technicznyo w Monachium i Uniwersytet Federico II w Neapolu. Jest to oprogramowanie, które zbiera zmanipulowane przez sztuczną inteligencję wideo, a następnie wykrywa fałszerstwa. W basie FaceForensics znajduje się obecnie aż 18 tys. zmanipulowanych zdjęć. Filmy przygotowane przez Jigsaw pozwolą na szybsze i skuteczniejsze wyszukiwanie sfałszowanych plików wideo.

Deep fake to nagrania przygotowane z wykorzystaniem SI. Na twarz konkretnej osoby nakłada się dowolną inną postać. Osoba przygotowująca takie nagranie może robić i mówić rzeczy, których nigdy nie powiedziałaby osoba ostatecznie na filmie przedstawiona, a już na pewno nie przed kamerami. Jednym z najbardziej znanych filmów tego typu jest nagranie przedstawiające Marka Zuckerberga, wygłaszającego mowę skierowaną do widzów. A mówi to, czego mogliby się spodziewać wszyscy miłośnicy teorii spiskowych: – Wyobraź to sobie. Jeden człowiek z całkowitą kontrolą nad skradzionymi danymi miliardów ludzi. Wszystkie ich sekrety, ich życie, ich przyszłość.

Manipulacje tego typu nie są nowością, ale zanim zaczęto korzystać z SI, dostrzeżenie fałszerstwa było stosunkowo proste nawet dla niewprawnego widza. Deep fake zaczęły pojawiać masowo po 2017 r. Wówczas w sieci pojawił się fałszywy film porno rzekomo przedstawiający aktorkę Gal Gadot. Opublikowany został w serwisie Reddit przez użytkownika, posługującego się pseudonimem „deepfakes”. A potem poszło już z górki.

WARTO PRZECZYTAĆ:

Jeszcze lepsze deepfake, czyli sfałszowane filmy

3
Zamknij

Choć staramy się je ograniczać, wykorzystujemy mechanizmy takie jak ciasteczka, które pozwalają naszym partnerom na śledzenie Twojego zachowania w sieci. Dowiedz się więcej.