Jednak skuteczność jakiejkolwiek maszynowo uczonej sztucznej inteligencji jest warunkowana samym sposobem uczenia. To oznacza, że aby filtrowanie revenge porn w sieci społecznościowej Zuckerberga było skuteczne, maszyna musi dysponować odpowiednimi danymi źródłowymi. Gdy nauczy się na ich podstawie, będzie w stanie skutecznie blokować niepożądane treści.
Właśnie dlatego Facebook wystosował do użytkowników cokolwiek kontrowersyjną (ujmując rzecz delikatnie) prośbę. Poprosił swoich użytkowników o nadesłanie ich aktów. Oczywiście narzędzia umożliwiające filtrowanie niepożądanych treści pojawiły się w serwisie Zuckerberga już wcześniej. W kwietniu br. roku dodane zostały narzędzia umożliwiające użytkownikom oznaczanie niepożądanych obrazów. Jednak algorytmy dopasowania zdjęć na podstawie wzorców nadesłanych przez ludzi pozwoliłyby pójść o krok dalej. Nowy system byłby w stanie zablokować treść w taki sposób, by zdjęcie stanowiące akt “pornograficznej zemsty” w ogóle nie pojawiło się w serwisie. Dotychczasowe metody, czyli oznaczanie – mają tę wadę, że przynajmniej przez jakiś czas wizerunek ofiary jest widoczny.
Australijski urząd Australian Office of the eSafety Commisioner (Komisarz ds. e-bezpieczeństwa) poinformował, że właśnie Australia jest jednym z czterech krajów objętych pilotażowym programem nowego systemu filtrowania treści. Pozostałe trzy kraje to Kanada, Wielka Brytania i Stany Zjednoczone.
W przypadku Australii osoby obawiające się aktu zemsty muszą zacząć od wypełnienia formularza wyjaśniającego ich obawy. Zostaną wtedy poproszone o przesłanie własnych aktów za pośrednictwem Messengera. Biuro Komisarza ds. e-Bezpieczeństwa powiadomi Facebooka o złożeniu wniosku, oczywiście cała dokumentacja jest zapisywana, przetwarzana i przechowywana w zaszyfrowanej postaci i opatrzona cyfrowym odciskiem palca przypisującym złożony wniosek konkretnej osobie – wnioskodawcy. Dalszy ciąg łatwo przewidzieć – algorytmy rozpoznawania obrazu będą zapobiegać próbie opublikowania zdjęć danej osoby przez innych.
Co ważne: Facebook nie przechowuje samych zdjęć, przechowywane są jedynie jego parametry (m.in. cyfrowy skrót) pozwalające jednoznacznie rozpoznać próbę umieszczenia danego pliku w sieci społecznościowej. Oczywiście mechanizm jest dużo bardziej wyrafinowany niż tylko prosta funkcja skrótu. Niestety, można spodziewać się, że mimo zapewnień Facebooka o zachowaniu prywatności, opracowana procedura nie wszystkim przypadnie do gustu. | CHIP
