Jednym z największych problemów w rozwoju AI jest osiągnięcie zgodności sztucznej inteligencji z celami ludzkości. Pojęcie “alignment” śni się po nocach właścicielom największych firm rozwijających narzędzia sztucznej inteligencji, którzy marzą o dojściu do poziomu AGI (generalna sztuczna inteligencja lub superinteligencja). Apelują oni, aby spowolnić rozwój AI, ale jednocześnie nie proponują wymiernych działań, poprzestając na ogólnych założeniach.
Nie wszyscy są zgodni co do tego, że rozwój sztucznej inteligencji musi zwolnić. Dla obecnej administracji Stanów Zjednoczonych priorytetem jest nie przegrać wyścigu z Chinami, niezależnie od tego, jakiej on dziedziny dotyczy. Same Chiny są zresztą orędownikiem nieskrępowanego rozwoju AI. Podobnie twierdzi Mark Zuckerberg, dla którego najpewniej jest to szansa, by nadrobić straty do konkurencji z czasów modeli LLama.
Z pewnością szef Mety nie ma nic przeciwko temu, by nad rozwojem jego produktów czas spędzali nie tylko deweloperzy (zapewne drodzy w utrzymaniu i powolni), ale i agenci sztucznej inteligencji (może też drodzy, ale przynajmniej nie strajkują, jedynie czasem włamią się do repozytorium Hugging Face). Okazuje się, że także i firma jednego z orędowników zrównoważonego rozwoju sztucznej inteligencji nie ma nic przeciwko, by do rozwoju produktów używać własnego AI.
Claude buduje siebie sam
Według zapewnień Anthropic, Claude odpowiada obecnie za 26% rozwoju i badań w firmie. Zdaniem przedstawicieli firmy jest on w stanie wykonać powierzone zadaniem “od początku do końca za pomocą wysoce zaawansowanego prompta”. Oczywiście w dalszym ciągu odbywa się to pod bacznym okiem człowieka, a model jeszcze nie pracuje w pełni autonomicznie.
Jeszcze ciekawiej może wypaść statystyka dotycząca ludzkiej pracy, ale wspomaganej przez sztuczną inteligencję. Około 90% badań i rozwoju, jaki przeprowadzany jest w Anthropic, odbywa się we “współpracy” z Claudem. Przedstawiciele firmy zapewniają, że model może wykonywać “spore zakresy pracy pod czujnym okiem człowieka”. Nie wiemy, ile z tych 90% to pisanie żmudnego kodu i kopiowanie gotowych formuł, które w innym ujęciu wymagałyby po prostu sięgnięcia do repozytorium, a na ile AI kieruje rozwojem całości.
Firma nie przyznaje, jak blisko jest stworzenia rekurencyjnej sztucznej inteligencji, czyli takiego zestawu narzędzi, który sam rozwiązuje swoje problemy i sam się rozwija. Przyznano za to, że w sierpniu w firmie “pracowało” około 30 tysięcy agentów AI do badań i pracy inżynieryjnej. Jeszcze w lutym nie było tam żadnego agenta.
Czytaj także: 800 km na 54,9-kWh akumulatorze. Volkswagen pokazuje, że źle projektujemy samochody elektryczne
Anthropic jednocześnie zwraca uwagę, że środki kontroli są niezbędne, by zauważać jak często niezgodne zachowanie agentów jest wykrywane w systemach monitorowania. Firma odpowiedzialna za Claude chce do tego procesu zaprosić zewnętrzne podmioty.
Czy naprawdę taki rozwój sztucznej inteligencji jest nieunikniony?
Wydaje się, że postęp sztucznej inteligencji ma być wliczony w jej cenę. Z takiego założenia wyszli prawnicy w amerykańskim sądzie okręgowym dla Północnego Dystryktu Kalifornii, którzy reprezentują cztery osoby płacące za dostęp do Claude, Groka, Gemini i ChatGPT. Oskarżają oni firmy odpowiedzialne za te produkty o spowalnianie rozwoju poprzez zmowę i koordynację tempa prac, co ma zmniejszać korzyści konsumenckie.
Pozew pojawił się niedługo po tym, jak poparcie dla apelu Dario Amodei (Anthropic) dotyczącego spowolnienia rozwoju “laboratoriów pionierskich” sztucznej inteligencji wyrazili szefowie OpenAI (Sam Altman), SpaceXAI (Elon Musk) oraz przewodniczący Google DeepMind Demis Hassabis. Jako dowód podają też oświadczenie z lipca 2026 roku, które stworzyli wysoko postawieni pracownicy laboratoriów tych firm.
Czytaj także: iPhone 18 Pro zrobił coś więcej niż dobre zdjęcia. Apple wystawia je jak dzieła sztuki
Pozew zapewne rozejdzie się po kościach – wszak to, co dzieje się w laboratoriach rozwoju AI to niejedyna droga do tego, by ulepszać produkt i utrzymywać jego wartość rynkową. W momencie, gdy jednym zależy na nieskrępowanym rozwoju narzędzi (w końcu za nie płacą), inni woleliby mieć kontrolę nad tym, by samodoskonaląca się AI nie zrezygnowała z zabezpieczeń, jakie nałożyli na nią ludzie.
To wydaje się dużo większym zmartwieniem dla całej ludzkości niż to, czy ktoś będzie musiał chwilę dłużej poczekać na odpowiedź, bo nie wdrożono najnowszego, niesprawdzonego przełomu z laboratorium. Ale jeśli są ludzie, którzy chcą jej rozwoju za wszelką cenę, a do tego rządzą oni jednym z najistotniejszych w tej materii państw świata, to trudno spodziewać się, że rozwój spowolni.
