Deepfake to generowane komputerowo filmy, w których algorytmy sztucznej inteligencji potrafią tak zmanipulować obraz, że oglądający nie wie, czy ogląda autentyczne nagranie, czy też ma do czynienia z fałszywką. Deepfake są zmorą polityków i celebrytów, ale potrafią zaszkodzić też zwykłym ludziom. Facebook uznał, że serwis nie jest miejscem dla takich filmów i ogłosił, że usunie z platformy pliki zmodyfikowane przez sztuczną inteligencję. Pytanie, na ile ta akurat decyzja jest podyktowana przyszłorocznymi wyborami prezydenckimi w USA.
Ofiarami przeróbek padli już przeróżni aktorzy, m.in. Scarlet Johansson i Bella Thorne, których postaci użyto w filmach pornograficznych. Jednak jednym z najbardziej znanych filmów jest ten, w którym niebezpieczeństwa związane z deepfake tłumaczy amerykański reżyser Jordan Peele (laureat Oscara za najlepszy scenariusz oryginalny do filmu fabularnego “Uciekaj!”.)
Warto też obejrzeć wykład na TED, prezentujący etyczne implikacje stosowania sztucznej inteligencji i głębokiego uczenia do “produkcji” zmanipulowanych nagrań:
We wrześniu zeszłego roku Facebook ogłosił, że zainwestuje 10 mln dol. w dopracowanie technologi, która ułatwił automatyczne wyszukiwanie zmanipulowanych nagrań. Co nie zmienia faktu, że Facebook do tej pory nie usunął z serwisu filmu pokazującego w wyjątkowo niekorzystnym świetle amerykańską polityk Nancy Pelosi. I nie usunie, bowiem jak napisała w oświadczeniu wiceprezes Monika Bickert: “nowa polityka firmy nie obejmuje treści, które są parodią, bądź satyrą, lub takim nagraniem wideo, które zostały edytowane w celu usunięcia słów lub zmiany kolejności ich pojawiania się.”
Deepfake – Facebook je zwalcza, a TikTok wręcz przeciwnie
Tymczasem twórcy popularnej aplikacji TikTok planują wprowadzić narzędzie do… tworzenia i udostępniania deepfake’ów. Informacje na ten temat znalazł izraelski startup Watchful, który zauważył w kodzie TikToka część odpowiedzialną za funkcję Face Swap. Face Swap pozwala przenieść zdjęcie lub nagranie twarzy użytkownika aplikacji na inne zdjęcie lub film. W efekcie powstaje zmanipulowana fotografia lub wideo. Przy czym nie zawsze musi być to twarz faktycznego użytkownka. Równie dobrze może być to wizerunek innej osoby. Nie wiadomo, czy TikTok zdecyduje się na udostępnienie tej funkcji. Nie byłaby to ostatecznie pierwsza aplikacja, która umożliwia zabawę swoim lub, co gorsza, cudzym wizerunkiem.
Problem zmanipulowanych zdjęć, filmów oraz nagrań audio zaczyna być coraz bardziej palący. We wrześniu 2018 r. powstała organizacja Deepfake Detection Challenge (DFDC), zrzeszająca Facebooka, Amazona, Micorosft oraz Parntership on AI. Cel jest jeden – wprowadzenie na rynek narzędzia ułatwiającego wykrywanie deepfake’ów. W tym celu DFDC zachęca do wzięcia udziału w konkursie na najlepszą open source’ową aplikację do walki ze zmodyfikowanymi plikami. Pierwsza nagroda to 500 tys. dol. | CHIP
