Fałszywy Trump i puchaty papież. Midjourney za darmo narobił rabanu
W ciągu ostatnich dwóch tygodni sieć obiegły grafiki obrazujące aresztowanie byłego prezydenta USA Donalda Trumpa oraz papieża w bufiastej białej kurtce. Mimo oczywistych znamion wskazujących na wygenerowanie ich za pomocą AI nabrały wiele osób, a ich zasięg okazał się tak wielki, że trafiły do komentatorskiego mainstreamu, robiąc tam duże, choć niezbyt dobre wrażenie.
Czytaj też: GPT-4 zagraża bezpieczeństwu publicznemu. Chcą, żeby generatywna SI wzięła na wstrzymanie
Problemem okazała się bowiem zbyt wielka łatwość uzyskania deepfake’a, na który bez problemu nabrało się wielu ludzi. W sytuacji, gdy legislacja zupełnie nie nadąża z regulacjami dotyczącymi ograniczeń AI, w żaden sposób nie wymusza znakowania takich grafik i nie nakazuje dostarczenia narzędzi do ich wykrywania, musiało to wzbudzić niepokój. Zabezpieczenia po stronie dostawcy Midjourney także okazały się niewystarczające, co mnie osobiście zresztą specjalnie nie dziwi – testując Bing Image Creator i Adobe Firefly sprawdzałem także działanie filtrów, podając dane wejściowe z niedozwolonymi terminami i w przypadku wystąpienia blokady próbując tak zmienić użyte określenia, by ominąć zabezpieczenia – z dość dużym powodzeniem, a przecież zarówno Microsoft jak i Adobe są dość restrykcyjne w porównaniu z np. Stable Fiffusion.
Rozwiązanie? Nie będzie darmowego Midjourney, zostaną tylko płatne plany
W reakcji na nieprzyjemny zapach, jaki się rozszedł, Midjourney próbowało wprowadzić bardziej restrykcyjne ograniczenia dotyczące promptów, lecz jak się zdaje, bez sukcesów. W rezultacie 28 marca użytkownicy mogli przeczytać na Discordzie następującą wiadomość:
Z powodu kombinacji nadzwyczajnego zapotrzebowania i nadużyć okresu próbnego, tymczasowo wyłączamy darmowe okresy próbne do czasu udostępnienia kolejnych usprawnień naszego systemu
Krótko mówiąc: chcesz się bawić – zapłać. To właśnie trial był najczęściej nadużywany do wątpliwych grafik. Najtańszy płatny abonament wynosi 10 dol. miesięcznie (lub 8 dol. miesięcznie przy rocznym zobowiązaniu), nie jest to zatem kwota zaporowa, choć trzeba przyznać, że wyższe plany pozwalają na znacznie więcej i przy okazji szybciej. Czy to zapobiegnie nadużyciom? Znów mam wątpliwości, pamiętając co się stało po otwarciu tzw. weryfikacji na Twitterze dla każdego głąba posiadającego 8 dolarów i kartę płatniczą. Dlaczego płatne plany jako narzędzie zapobiegania nadużyciom Midjourney miałyby się spisać lepiej niż u Elona Muska?
Prawo nie nadąża, ale bez niego się nie obejdzie
Kolejne incydenty ze zbyt wiarygodnymi deepfake’ami są moim zdaniem nieuniknione. Działania ze strony twórców silników są niewystarczające (dobrze jednak, że chociaż próbują) i bez ograniczeń prawnych się w końcu nie obejdzie, szczególnie że bardzo śliską sprawą pozostaje także kwestia praw autorskich do materiałów wykorzystywanych do trenowania Midjourney et consortes. Niestety tu wszystko dzieje się zbyt wolno i nie pomaga fakt, że legislatorzy i ich biura prawne przeważnie nie mają pojęcia o temacie, a fachowcy… kto by ich słuchał?
Aktualizacja
Już po opublikowaniu tego artykułu CEO Midjourney, David Holz, zdementował, jakoby wprowadzone nagle ograniczenia były związane z viralowymi grafikami Trumpa i papieża Franciszka. Zgodnie z jego oświadczeniem, jest to czysty zbieg okoliczności, a przyczyną blokady jest nagłe zwiększenie ilości kont z Chin (być może związane z popularnością materiału wideo instruującego jak tworzyć wiele kont), rejestrowanych masowo w celu tworzenia grafik za darmo i związany z tym lawinowy wzrost obciążenia serwerów, który doprowadził do niewydolności i zatorów także dla płacących użytkowników.
Jak donosi Forbes, dostępność Midjourney w Chinach ma jeszcze jeden interesujący aspekt. Otóż o ile bez żadnego problemu za pomocą tego silnika zrobimy grafikę z wizerunkami Trumpa, Putina, Uberprezesa Polski czy Bidena, to jak się okazuje, nie da się w podobny sposób użyć wizerunku Xi Jingpinga. Czyż nie jest ciekawe, jakie jeszcze ustępstwa poczynił Midjourney, by zarabiać na użytkownikach zza Wielkiego Firewalla?
