Nie tak dawno od Anthropic odszedł badacz, który groził, że sztuczna inteligencja może zabić wszystkich ludzi. Nie był on zresztą jedynym, bo w ślad za nim poszedł Evan Hubringer, przewodzący jednego z zespołów Anthropic do spraw bezpieczeństwa sztucznej inteligencji. Obawy przed samoulepszającym się AI, które nie ma w interesie najlepszego interesu ludzkości i nie do końca rozumie intencje naszych działań.
Apeli, by spowolnić rozwój AI nie brakowało i to jeszcze w czasach, w których nie mówiło się nie tylko o OpenAI czy Anthropic, ale i DeepMind. W końcu w 2014 roku ukazała się książka Niklasa Boströma “Superinteligencja”, gdzie poruszano wątek ryzyka egzystencjalnego, jakie wynika z utraty kontroli nad rozwojem AI. W 2023 roku ponad 30 tysięcy osób, w tym Elon Musk i Steve Wozniak, podpisało apel o wstrzymanie rozwoju modeli potężniejszych od GPT-4 na przynajmniej 6 miesięcy. Apel nie został wysłuchany.
Obawy wyrażał zresztą jeszcze przy okazji GPT-2 ówczesny szef badań w OpenAI, czyli Dario Amodei. Obecnie, jako lider konkurencji – Anthropic – ponownie apeluje on o rozważne tempo rozwoju.
Kolejny esej o spowalnianiu AI. Tym razem od szefa Anthropic
Dario Amodei podzielił się ze światem esejem “We Must Pace the Frontier”, w którym wzywa do kontrolowanego spowolnienia rozwoju w “frontier labs”, a więc w ośrodkach rozwijających najbardziej zaawansowane i przyszłościowe modele sztucznej inteligencji. Proponuje trzystopniowy plan kontrolowania tempa:
- Kontrolerzy wewnątrz firm – Anthtopic udostępnia niezależnym, zewnętrznym zespołom badawczym pracowniczy dostęp do biur, kodów i procesów. Bezpieczeństwo ma być w ten sposób oceniane na bieżąco.
- Koordynacja demokratyczna – apel Amodei o wytworzenie przez państwa demokratyczne wspólnych standardów bezpieczeństwa i limitów wdrażania niezweryfikowanych modeli.
- Koordynacja globalna – próba nawiązania porozumień, także między USA i państwami autorytarnymi, aby zapobiec wyścigowi zbrojeń w obszarze AI.
Nie padają konkretne działania czy formy regulacji ani projekty ustaw, jakie można by było wdrożyć.
Czas, jaki w ten sposób mieliby uzyskać badacze, miałby zostać przeznaczony na wyeliminowanie błędów w filtrowaniu i przygotowywaniu środowisk treningowych, stworzenie technik pozwalających prześwietlać pracę i wnętrze modeli oraz dopasowanie celów do tych zgodnych z interesem i intencjami ludzi. Dodatkowy czas miałby także pozwolić na więcej testów.
Amodei podkreśla, że moment na takie rozwiązania jest szczególny. Nowe czynniki, które zmotywowały go do napisania tego eseju są dwa. Jednym z nich jest fakt, że od lata tego roku w rozwoju systemów AI w istotnym stopniu uczestniczą systemy AI, a tempo rozwoju jest trudne do opanowania. Drugą motywacją był incydent z rojem agentów OpenAI, który zinfiltrował Hugging Face, wydostając się ze środowiska testowego.
Rywalizacja o prym w świecie AI jest brudna, co osłabia siłę takich apeli
Z apelem Dario Amodei zgodzili się inni liderzy firm intensywnie rozwijających modele AI – Sam Altman z OpenAI oraz Elon Musk przewodzący xAI (odpowiedzialnemu za Groka). Dzieje się to kilka dni po tym, jak firma Sama Altmana postanowiła rozwiązać milenijny problem matematyczny za wszelką cenę.
OpenAI wykorzystał na poczet rozwiązania problemu Navier-Stokesa 130 miliardów tokenów, co kosztem wielokrotnie przewyższa wartość wygranej przyznawanej za rozwiązanie, które obroni się przez dwa lata od publikacji. Na całość operacji rozwiązywania problemów wykorzystano blisko 300 miliardów tokenów wyjściowych. Można by docenić firmę za to działanie, ale motywacje i sposób dojścia do niego wydają się zuchwałe.
Tristan Buckmaster, profesor matematyki na uniwersytecie nowojorskim oraz Levent Alpöge, pracujący dla Anthropic, także opracowywali rozwiązanie problemu. Buckmaster przekazał 3 września, ze informacje o progresie rozwiązania zostały przekazane do twórców ChatGPT. Matematyk stwierdził także, że OpenAI nie pracowało nad tym problemem do momentu dowiedzenia się, że jego rozwiązaniem zajmują się matematycy korzystający z narzędzi Codex od Anthropic.
Firma Dario Amodei jest w szczególnym miejscu. Codex stał się narzędziem wielu firm i Anthropic ma ze swoich narzędzi solidny przychód, a jednocześnie Claude nie jest produktem tak masowym jak ChatGPT. Wycena firmy na poziomie 965 miliardów dolarów to jednak tylko połowa tego, co chcą osiągnąć po wejściu na giełdę. Firma nie chce tego robić w tym roku, co ma pomóc wyjść firmie korzystniej wizerunkowo i pomóc poradzić sobie z krytyką, jaką zbiera AI.
Maszynista wie, gdzie jest hamulec, ale czy pozwolą mu go pociągnąć?
Niedługo po publikacji szefa Anthropic Mark Zuckerberg kierujący miliardy dolarów na wyścig o AGI (generalną sztuczną inteligencję, znaną też jako superinteligencja) przyznał, że rozwój sztucznej inteligencji musi następować szybciej. Sam zresztą opublikował w sierpniu esej “The Future is for Everyone” (“Przyszłość jest dla każdego”), w którym argumentował, iż przyszłością jest własny superzdolny agent AI dla każdego.
Podobny sentyment wyraża zresztą administracja amerykańskiego rządu. Według Financial Times Donald Trump miał powiedzieć (tłum. własne): “Patrz, górujemy nad Chinami w AI… i szczerze, chcę, by ten stan się utrzymał, bo ktokolwiek wygra w AI, wygrywa”.
Rzecznik Białego Domu, Mike Johnson w CNN przyznał, że szybkie regulowanie rozwoju AI może być “zagrożeniem dla bezpieczeństwa narodowego”. Obawa wobec Chin to najwyraźniej główna motywacja dla rządzących, bowiem Johnson dodał też, że “jeśli Kongres wkroczy do wyścigu i przeprowadzi awaryjną sesję, by spróbować uregulować AI, przegramy wyścig na rzecz Chin”.
Paradoksalnie, w wywiadzie dla CBS Sunday Morning przyznał, że potrzeba więcej regulacji ze strony rządów i być może ich udziału w firmach prywatnych. Jeśli jednak intencje rządów korzystających z rozwiązań AI (np. we współpracy z Palantir) nie ulegną zmianie, raczej niemożliwe będzie powstrzymanie rozwoju sztucznej inteligencji. Nie wydaje się, by w obliczu aktywnego konfliktu między Stanami Zjednoczonymi i Iranem, a także ciągłego napięcia między Chinami i zachodnim światem, rozwój AI miał okazać się przestrzenią porozumienia.
