Sztuczna inteligencja Facebooka wykryje deepfakes i wyśledzi ich pochodzenie

Przedstawiciele Facebooka oraz Michigan State University zaprezentowali niedawno potencjalnie nowatorskie narzędzie. Oparte na sztucznej inteligencji, może z wysoką skutecznością rozpoznawać tzw. deepfakes, a nawet prześledzić je aż do źródeł.

O ile początkowo technologia deepfake pełniła głównie rolę ciekawostki, tak – wraz z jej rozwojem – zaczęto zauważać coraz więcej zagrożeń. Z czasem fałszywe obrazy stały się na tyle realistyczne, że zyskały sławę m.in. w przypadku filmów dla dorosłych. Co więcej, pojawiły się nawet przypuszczenia, jakoby wideo zaczęły tracić na wiarygodności w kontekście materiału dowodowego przedstawianego w sprawach sądowych.

Czytaj też: Sztuczna inteligencja zmieni obsługę prawną? Polska kancelaria skorzysta z platformy AQUILA

Podstawą narzędzia służącego do rozpoznawania deepfakes nie jest szczególnie nowatorska metoda zwana inżynierią wsteczną. Właśnie dzięki niej można natrafić na unikalne wzorce wykorzystywane przez SI do generowania fałszywych obrazów. Algorytm może też porównywać podobieństwa widoczne w całych grupach spreparowanych materiałów, dzięki czemu dałoby się skuteczniej śledzić organizacje odpowiedzialne np. za sianie dezinformacji.

Deepfakes stanowią coraz większą część materiałów dostępnych w Sieci

Podobnie jak można rozpoznać drukarkę po unikalnych wzorach, jakie zostawia ona na papierze, tak i tutaj naukowcy są w stanie wykryć pochodzenie fałszywych obrazów. Takie cyfrowe odciski palców zostały wprowadzone do sieci zwanej Fingerprint Estimation Network. Ta skupia się na hiperparametrach modelu generatywnego, czyli zmiennych wykorzystywanych do kierowania procesem uczenia się. Eksperci porównują to do sytuacji, w której algorytm byłby w stanie rozróżnić dwa samochody jedynie na podstawie pracy ich silników na biegu jałowym.

Czytaj też: Facebook skorzysta z PyTorch. Ten ruch może wpłynąć na przyszłość SI

Problem polega na tym, że obecnie brakuje podobnych technologii służących do rozpoznawania deepfakes. Z tego względu autorzy nowej techniki nie są w stanie uzyskać jej efektywnej oceny. Naukowcy są jednak przekonani, iż proponowana przez nich metoda może zmienić sposób, w jaki walczy się z dezinformacją, szczególnie o zorganizowanym charakterze. Można sobie wyobrazić, że SI utrudni działania osób odpowiedzialnych za rozpowszechnianie fałszywych informacji, np. na temat szczepionek.

Chcesz być na bieżąco z CHIP? Obserwuj nas w Google News