Meta uczy swój algorytm, by patrzył na Twoje kości i wzrost
Do tej pory algorytmy szacujące wiek, wykorzystywane przez inne firmy, patrzyły raczej na ogólne zachowania na danej platformie. Jeśli nasze zainteresowania i sposób pisania wskazywały na nasz deklarowany wiek, system to akceptował. Meta doszła do wniosku, że to za mało i jej nowa zaawansowana machina analityczna weźmie się za nasze zdjęcia. To właśnie na nich będzie szukała fizycznych wskazówek świadczących o wieku. Algorytm oceni fizjonomię – strukturę kości i wzrost – by oszacować, czy mamy ukończone 13 lat.
Oprócz tego będą przeczesywane posty w poszukiwaniu wzmianek o urodzinach, ocenach szkolnych czy konkretnych klasach. AI połączy dane wizualne z tym, o czym piszemy, by wyłapać konta, które „prześlizgnęły się” przez standardowe formularze.
Co ciekawe, Meta stanowczo podkreśla, że nie jest to system rozpoznawania twarzy. AI nie identyfikuje konkretnej osoby, a jedynie szacuje ogólny przedział wiekowy na podstawie „abstrakcyjnego kontekstu wizualnego”. Pozostaje jednak pytanie: czy algorytm da się nabrać na doklejone wąsy lub odpowiedni ubiór, co od lat jest ulubionym sposobem dzieciaków na omijanie blokad?
Tożsamość w rękach AI – co może pójść nie tak?
Zawsze twierdzę, że walka o bezpieczeństwo nieletnich w sieci jest konieczna i każde nowe funkcje, które umożliwiają ochronę dzieci są potrzebne. Jednak ta metoda budzi moje wątpliwości. Niby udostępniając zdjęcia w sieci musimy się liczyć z tym, że nie mamy już nad nimi kontroli, a nasz wizerunek może być wykorzystany do czegokolwiek, ale jaką mamy gwarancję, że Meta nie będzie szkolić AI w ten sposób? Firma jest dobrze znana z dość wątpliwego podejścia do takich rzeczy i nawet jeśli tutaj faktycznie zagra fair-play, wątpliwości pozostają.
Dodatkowo, co z osobami, które z natury wyglądają znacznie młodziej niż wskazuje ich metryka? Czy dorosły użytkownik o drobnej budowie ciała może nagle obudzić się z zablokowanym kontem, bo algorytm uznał go za 12-latka? Jakby tego było mało, Meta zaczyna wysyłać powiadomienia do rodziców w USA, prosząc ich o potwierdzenie wieku nastolatków. To kolejny krok w stronę całkowitej kontroli rodzicielskiej nad życiem cyfrowym – Meta już teraz informuje opiekunów, o co ich dzieci pytają AI i czego szukają na platformach. Granica między ochroną a inwigilacją staje się coraz cieńsza.
Czy to nowy sposób na unijne zarzuty?
Niedawno Komisja Europejska postawiła gigantowi konkretne zarzuty, uderzające w fundamenty modelu operacyjnego Mety. Bruksela przedstawiła wstępne ustalenia, z których wynika, że Meta systemowo zawiodła w ochronie najmłodszych użytkowników, naruszając tym samym unijną ustawę o usługach cyfrowych (DSA).
Czytaj też: ChatGPT staje się dokładniejszy i bardziej osobisty. Czy tylko ja widzę w tym problem?
Sprawa nie dotyczy jedynie „złych intencji”, ale przede wszystkim nieskuteczności mechanizmów, które miały chronić dzieci poniżej 13. roku życia przed dostępem do platform. Dotychczasowe metody ławo było obejść podając fałszywą datę urodzenia i nawet jeśli taki małoletni użytkownik został zgłoszony, Meta najczęściej nic z tym nie robiła. Wręcz przeciwnie, jakby chciała w ogóle utrudnić zgłaszanie kont nieletnich, bo formularz ukryła głęboko w strukturze aplikacji, co zniechęcało do reagowania.
Czytaj też: Spotify walczy z muzyką AI. Ale tylko na pół gwizdka
Szacuje się, że mimo oficjalnego zakazu, około 10–12% dzieci poniżej 13. roku życia w Unii Europejskiej aktywnie korzysta z Instagrama lub Facebooka, a są to tylko dane z naszego podwórka. W innych regionach organy regulacyjne również biorą pod lupę ten aspekt działania giganta. Meta oczywiście nie zgadza się z zarzutami. Rzecznik firmy podkreślił, że platformy są przeznaczone dla osób powyżej 13. roku życia, a firma zainwestowała w ponad 50 narzędzi ochrony młodych użytkowników i już przygotowuje kolejne.
Prywatność kontra bezpieczeństwo
Wydaje się więc, że algorytmy do szacowania wieku mają być właśnie tą nową metodą, tylko czy słuszną? Oddanie algorytmom prawa do decydowania o naszej tożsamości na podstawie „struktury kości” brzmi jak scenariusz, który może zostać zakwestionowany przez organy ochrony prywatności.
Czytaj też: Circle to Search robi kolejny krok. Wyszukiwanie staje się łatwiejsze, a prywatność… Jaka prywatność?
Ruch Mety to klasyczne „mniejsze zło”. Problem nieletnich na Instagramie jest realny i tragiczny w skutkach, a tradycyjne metody weryfikacji zawiodły na całej linii. Jednak oddanie sztucznej inteligencji władzy nad tym, za kogo nas uważa, jest niebezpiecznym precedensem. Algorytmy bywają stronnicze i mogą dyskryminować osoby o specyficznym wyglądzie czy cechach etnicznych. Ponadto, przyzwyczajanie nas do tego, że korporacja „skanuje nasze ciało”, by pozwolić nam wrzucić zdjęcie obiadu, jest niepokojące. Bezpieczeństwo dzieci jest priorytetem, ale czy naprawdę jedyną drogą do niego jest bio-analiza każdego użytkownika?
Źródło: Meta
