Indonezja i Malezja blokują dostęp do Grok, powodem jest fala niebezpiecznych deepfake’ów
Pierwszy ruch wykonały władze Indonezji, które zablokowały dostęp do chatbota w sobotę 10 stycznia. Dzień później, w niedzielę, identyczną decyzję podjęła Malezja. Oficjalnym powodem była całkowita nieskuteczność zabezpieczeń mających powstrzymywać tworzenie fałszywych treści o charakterze pornograficznym. Regulatorzy z obu krajów wyraźnie wskazali, że szczególnie bulwersujące są materiały przedstawiające kobiety oraz osoby nieletnie. Problem miał charakter masowy, co zmusiło do natychmiastowej reakcji, wiadomo również, że śledztwo w tej sprawie prowadzi już trzeci, nieujawniony publicznie kraj.
Amerykańscy senatorowie wzywają, by Apple i Google usunął aplikację Grok ze sklepów
Krytyka nie ogranicza się tylko do Azji. Trzej senatorowie ze Stanów Zjednoczonych – Ron Wyden, Ed Markey oraz Ben Ray Luján – wystosowali stanowczy list do kierownictwa Apple i Google. Żądają w nim tymczasowego usunięcia z amerykańskich sklepów aplikacji zarówno X, jak i Grok do czasu wyjaśnienia wszystkich okoliczności. Politycy nie owijali w bawełnę, wskazując na masowe generowanie niekonsensualnych, seksualizowanych wizerunków kobiet i dzieci z pomocą chatbota. W piśmie zarzucili również Elonowi Muskowi bierność wobec narastającego problemu. Do dziś Apple ani Google nie udzieliły jednak publicznej odpowiedzi na ten apel, a obie aplikacje wciąż są dostępne.
Czytaj też: Test monitora AOC AGON Pro AG346UCD
Zabezpieczenia Grok okazują się iluzoryczne – istniejące blokady są łatwe do ominięcia za pomocą sprytnych poleceń
Teoretycznie system powinien blokować tworzenie obrazów przedstawiających nagość. W praktyce okazało się, że użytkownicy bez większego trudu omijają te ograniczenia. Wystarczyło zastosować specjalnie sformułowane zapytanie, by chatbot wygenerował treść, która powinna być zablokowana. Reakcja Elona Muska była dziwna – ograniczył on możliwość generowania obrazów na platformie X wyłącznie do płatnych subskrybentów, podczas gdy ta sama funkcja pozostawała ogólnodostępna przez zakładkę Grok zarówno w aplikacji, jak i w przeglądarce.
Do sprawy włączył się także brytyjski regulator Ofcom, który wszczął formalne dochodzenie. Ma ono ustalić, czy platforma X naruszyła przepisy Ustawy o bezpieczeństwie online. Przedmiotem zainteresowania są doniesienia o wykorzystywaniu chatbota do tworzenia roznegliżowanych zdjęć osób oraz seksualizowanych obrazów dzieci, co może kwalifikować się jako nielegalna pornografia lub treści przedstawiające wykorzystywanie seksualne nieletnich. Sprawie przygląda się także KE.
W Polsce mamy i swój wątek – tak się bowiem składa, że zalew deepfake’ów zbiegł się w czasie z zawetowaniem przez prezydenta Nawrockiego ustawy o usługach cyfrowych, która ułatwiała usuwanie między innymi takich wygenerowanych treści z sieci. W ramach docenienia roli vetomatu, w sieci zaroiło się także od deepfaków z tymże w roli głównej.
Co dalej z kontrolą nad AI?
Cała sytuacja z Grok dobitnie pokazuje, jak kruche są obecne mechanizmy zabezpieczające w generatywnej sztucznej inteligencji. Narzędzia stają się coraz potężniejsze i bardziej dostępne, ale metody kontroli ich zastosowań wciąż są bardzo niedopracowane. Blokady nałożone przez kraje azjatyckie oraz śledztwa w Europie powinny być zapowiedzią dalszych działań, nie tylko o charakterze technicznym, ale przede wszystkim prawnym, dotyczącym odpowiedzialności firm za treści tworzone przez ich systemy AI.