Na blogu Google Research, pracujący nad projektem Nick Dufour oraz Andrew Gully, napisali: Od czasu pierwszego pojawienia się deep fake pod koniec 2017 roku, pojawiło się wiele metod ich generowania o otwartym kodzie źródłowym, co doprowadziło do wzrostu liczby syntetyzowanych klipów medialnych. Wiele z nich jest zabawnych, ale niektóre mogą bardzo szkodzić jednostkom i społeczeństwu.
W kolejnym kroku tak przygotowana baza została włączona do benchmarku FaceForensics opracowanego wspólnie przez Uniwersytet Technicznyo w Monachium i Uniwersytet Federico II w Neapolu. Jest to oprogramowanie, które zbiera zmanipulowane przez sztuczną inteligencję wideo, a następnie wykrywa fałszerstwa. W basie FaceForensics znajduje się obecnie aż 18 tys. zmanipulowanych zdjęć. Filmy przygotowane przez Jigsaw pozwolą na szybsze i skuteczniejsze wyszukiwanie sfałszowanych plików wideo.
Deep fake to nagrania przygotowane z wykorzystaniem SI. Na twarz konkretnej osoby nakłada się dowolną inną postać. Osoba przygotowująca takie nagranie może robić i mówić rzeczy, których nigdy nie powiedziałaby osoba ostatecznie na filmie przedstawiona, a już na pewno nie przed kamerami. Jednym z najbardziej znanych filmów tego typu jest nagranie przedstawiające Marka Zuckerberga, wygłaszającego mowę skierowaną do widzów. A mówi to, czego mogliby się spodziewać wszyscy miłośnicy teorii spiskowych: – Wyobraź to sobie. Jeden człowiek z całkowitą kontrolą nad skradzionymi danymi miliardów ludzi. Wszystkie ich sekrety, ich życie, ich przyszłość.
Manipulacje tego typu nie są nowością, ale zanim zaczęto korzystać z SI, dostrzeżenie fałszerstwa było stosunkowo proste nawet dla niewprawnego widza. Deep fake zaczęły pojawiać masowo po 2017 r. Wówczas w sieci pojawił się fałszywy film porno rzekomo przedstawiający aktorkę Gal Gadot. Opublikowany został w serwisie Reddit przez użytkownika, posługującego się pseudonimem “deepfakes”. A potem poszło już z górki.
https://www.chip.pl/2018/09/jeszcze-lepsze-deepfake-czyli-sfalszowane-filmy/
