Deepfake

Deepfake: Facebook będzie je usuwać, a TikTok umożliwi ich tworzenie

W czasie, gdy Facebook ogłasza walkę z deepfake, TikTok przymierza się do umożliwienia ich tworzenia we własnej aplikacji. Wprowadzenie do TikToka takiej funkcji jest o tyle niepokojące, że ta aplikacja cieszy się ogromną popularnością. Liczba jej pobrań ze sklepu Google wynosi prawie 15 mln.

Deepfake to generowane komputerowo filmy, w których algorytmy sztucznej inteligencji potrafią tak zmanipulować obraz, że oglądający nie wie, czy ogląda autentyczne nagranie, czy też ma do czynienia z fałszywką. Deepfake są zmorą polityków i celebrytów, ale potrafią zaszkodzić też zwykłym ludziom. Facebook uznał, że serwis nie jest miejscem dla takich filmów i ogłosił, że usunie z platformy pliki zmodyfikowane przez sztuczną inteligencję. Pytanie, na ile ta akurat decyzja jest podyktowana przyszłorocznymi wyborami prezydenckimi w USA.

Facebook zapowiedział, że usunięte zostaną wszystkie klipy, co do których nabierze przekonania, że zostały zmodyfikowane tak bardzo, że przeciętny oglądający zostanie wprowadzony w błąd co do autentyczności nagrania.

Ofiarami przeróbek padli już przeróżni aktorzy, m.in. Scarlet Johansson i Bella Thorne, których postaci użyto w filmach pornograficznych. Jednak jednym z najbardziej znanych filmów jest ten, w którym niebezpieczeństwa związane z deepfake tłumaczy amerykański reżyser Jordan Peele (laureat Oscara za najlepszy scenariusz oryginalny do filmu fabularnego „Uciekaj!”.)

Warto też obejrzeć wykład na TED, prezentujący etyczne implikacje stosowania sztucznej inteligencji i głębokiego uczenia do „produkcji” zmanipulowanych nagrań:

We wrześniu zeszłego roku Facebook ogłosił, że zainwestuje 10 mln dol. w dopracowanie technologi, która ułatwił automatyczne wyszukiwanie zmanipulowanych nagrań. Co nie zmienia faktu, że Facebook do tej pory nie usunął z serwisu filmu pokazującego w wyjątkowo niekorzystnym świetle amerykańską polityk Nancy Pelosi. I nie usunie, bowiem jak napisała w oświadczeniu wiceprezes Monika Bickert: „nowa polityka firmy nie obejmuje treści, które są parodią, bądź satyrą, lub takim nagraniem wideo, które zostały edytowane w celu usunięcia słów lub zmiany kolejności ich pojawiania się.”

Deepfake

Deepfake – Facebook je zwalcza, a TikTok wręcz przeciwnie

Tymczasem twórcy popularnej aplikacji TikTok planują wprowadzić narzędzie do… tworzenia i udostępniania deepfake’ów. Informacje na ten temat znalazł izraelski startup Watchful, który zauważył w kodzie TikToka część odpowiedzialną za funkcję Face Swap. Face Swap pozwala przenieść zdjęcie lub nagranie twarzy użytkownika aplikacji na inne zdjęcie lub film. W efekcie powstaje zmanipulowana fotografia lub wideo. Przy czym nie zawsze musi być to twarz faktycznego użytkownka. Równie dobrze może być to wizerunek innej osoby. Nie wiadomo, czy TikTok zdecyduje się na udostępnienie tej funkcji. Nie byłaby to ostatecznie pierwsza aplikacja, która umożliwia zabawę swoim lub, co gorsza, cudzym wizerunkiem.

Problem zmanipulowanych zdjęć, filmów oraz nagrań audio zaczyna być coraz bardziej palący. We wrześniu 2018 r. powstała organizacja Deepfake Detection Challenge (DFDC), zrzeszająca Facebooka, Amazona, Micorosft oraz Parntership on AI. Cel jest jeden – wprowadzenie na rynek narzędzia ułatwiającego wykrywanie deepfake’ów. W tym celu DFDC zachęca do wzięcia udziału w konkursie na najlepszą open source’ową aplikację do walki ze zmodyfikowanymi plikami. Pierwsza nagroda to 500 tys. dol. | CHIP

1
Zamknij

Choć staramy się je ograniczać, wykorzystujemy mechanizmy takie jak ciasteczka, które pozwalają naszym partnerom na śledzenie Twojego zachowania w sieci. Dowiedz się więcej.