Ryzyk związanych z rozwojem technologii jest całkiem sporo. Niektórzy uważają, że rozwój kwantowych komputerów całkowicie zniszczy stosowany w całym internecie i nie tylko system kryptograficzny. Z kolei w przypadku stworzenia generalnej sztucznej inteligencji (AGI) obawy budzi jej system wartości i priorytety, jakimi może się kierować w swoim działaniu.
Obecnie badacze, wdrażając kolejne iteracje modeli, podkreślają, jak wiele bezpieczników instalują w wewnątrz modeli, by powstrzymać je przed niekontrolowaną pracą. Nie zawsze to się udaje, jak chociażby w przypadku autonomicznych agentów przygotowanych przez Open AI, którzy zinfiltrowali infrastrukturę Hugging Face bez wiedzy badaczy. W międzyczasie duże modele językowe stają się coraz bardziej podobne do ludzi w swojej komunikacji. Ten stan martwi niektórych badaczy.
Z Anthropic odchodzi czołowy badacz ds. bezpieczeństwa. Inny daje ponad 10 procent szans na zagładę ludzkości
Jacob Coxon odpowiadał za trening systemów sztucznej inteligencji w Anthropic. W poście na platformie X krytykuje on zarówno swojego pracodawcę, jak i OpenAI. Stwierdza, że żadna z firm nie zachowuje się odpowiedzialnie, a ich wyścig po samoulepszającą się superinteligencję to igranie z naszymi życiami.
W dalszej części Coxon uzasadnia swój punkt widzenia. Widzi on w obecnych narzędziach sztucznej inteligencji ogromną siłę. Osoby odpowiedzialne za rozwój AI (niewymienione z nazwiska) mają zdaniem Coxona uważać, że AI mogłoby zabić ludzkość w tej dekadzie. Jednocześnie badacze nadal rozwijają sztuczną inteligencję, będąc albo nieświadomymi zagrożeń jak w OpenAI, albo zbyt mocno skupionymi na wyścigu pomimo wiedzy o skutkach, jak w Anthropic.
Czytaj także: Tak Apple ogrywa konkurencję. iPhone Duo to pstryczek w nos Samsunga i nie tylko
W bezpośredniej odpowiedzi Evan Hubringer, przewodzący jednemu z zespołów ds. bezpieczeństwa w Anthropic przyznał, że martwi się samoulepszającą się sztuczną inteligencją. Zaznacza, że proces ten “odbywa się szybciej niż myśleliśmy”. Potwierdził przy tym, że badacze faktycznie martwią się AI, które może zabić ludzi. Jego szacunki zakładają, że szanse na taki scenariusz w ciągu dekady wynoszą więcej niż 10 procent.
Anthropic i OpenAI walczą nie tylko ze sobą. AI jest przedmiotem polityki
Rozwój sztucznej inteligencji stał się kwestią nie tylko technologiczną, ale i ekonomiczną. Zarówno OpenAI, jak i Anthropic planują wejście na giełdę, a analitycy przewidują, że pierwsza firma zgarnie większość finansowania niezbędnego do rozwijania infrastruktury oraz dojścia do superinteligencji. W procesie tym sporą rolę odgrywają też tarcia między Anthropic, a rządem Stanów Zjednoczonych.
Model językowy Claude został zintegrowany z tajnymi sieciami Pentagonu, ale Anthropic uzależniło to od wdrożenia dwóch ograniczeń: zakazu masowej inwigilacji cywilów oraz zakazu wykorzystania AI w autonomicznej broni rażenia. Zmiana prawodawstwa w Stanach Zjednoczonych pozwoliła na takie użycie, a Anthropic odmówiło zdjęcia swoich zabezpieczeń, przez co firmę wpisano na czarną listę.
Czytaj także: Ten głośnik do iPhone’a kosztuje aż za dużo, ale za to nie potrzebuje baterii
Sprawa powędrowała na wokandę. Amerykański sąd przyznał rację Anthropic, które zaskarżyło wpisanie na czarną listę. Pod koniec sierpnia sędziowie przyznali, że działanie mogło mieć charakter odwetowy i naruszać wolność słowa oraz działania. Wydaje się, że Anthropic nie jest więc firmą, która za wszelką cenę parłaby w kierunku rozwoju.
Stąd też niektórzy internauci podważają rolę Coxona w Anthropic i ze względu na stosunkowo nowy profil na platformie X podejrzewają, że jego działalność jest obliczona na wywołanie paniki wobec sztucznej inteligencji. Pojawiły się też zarzuty, że medialność jego publikacji wynika z zaangażowania amerykańskiej partii demokratycznej w regulację sztucznej inteligencji, która mogłaby zatrzymać jej rozwój i ukrócić finansowanie przed wejściem Anthropic oraz AI na giełdę.
