Wszystko to sprawia, że zaufanie do kryptografii buduje się powoli, bo najpierw nowy algorytm trafia pod lupę kryptografów, którzy miesiącami próbują podważyć jego założenia. Im dłużej wytrzymuje, tym pewniej traktujemy go jako fundament przyszłej infrastruktury. Teraz z kolei do kresu tej pewności doszedł HAWK, bo sztuczna inteligencja w około 60 godzin znalazła przejście, którego ludzie nie dostrzegli przez ponad dwa lata.
Claude znalazł skrót w algorytmie przyszłości
Anthropic przedstawiło wyniki eksperymentów z użyciem Claude Mythos Preview, a więc niepublicznego modelu rozwijanego pod kątem cyberbezpieczeństwa i badań naukowych. Pierwszym celem był HAWK, czyli eksperymentalny algorytm podpisu cyfrowego projektowany z myślą o epoce komputerów kwantowych. HAWK przeszedł dwa etapy oceny prowadzonej przez amerykański NIST i trafił do trzeciej rundy procesu wyboru dodatkowych standardów podpisu postkwantowego. Eksperci analizowali jego bezpieczeństwo przez ponad dwa lata. Claude zwrócił jednak uwagę na ukrytą symetrię matematyczną, która pozwalała uprościć problem odzyskania klucza.
Czytaj też: Hasła odchodzą do lamusa. Google wdraża nową, jeszcze bezpieczniejszą metodę logowania
W przypadku eksperymentalnego HAWK-256 szacowany koszt ataku spadł z około 264 do 238 operacji. Mówimy więc o różnicy rzędu 67 milionów razy. Badacze przeprowadzili pełny atak w ciągu kilku godzin na pojedynczym serwerze. Większe warianty nadal pozostawały poza praktycznym zasięgiem, ale ich zapas bezpieczeństwa okazał się znacznie mniejszy, niż zakładano. Najprostsza poprawka polegałaby na zwiększeniu parametrów. Tyle że algorytm musi być nie tylko trudny do złamania, ale też szybki i wygodny we wdrożeniu. Twórcy HAWK przyznali, że wymagane zmiany odebrałyby mu przewagę nad konkurencją, dlatego dzień po ujawnieniu wyników wycofali projekt z procesu standaryzacji NIST.
Innymi słowy, cały system dobierania algorytmów kryptograficznych zadziałał tak, jak powinien. Algorytm został zaatakowany i odrzucony, zanim zdążył stać się standardem wykorzystywanym przez administrację, banki czy producentów oprogramowania.
Claude poprawił także atak na AES
Drugi eksperyment brzmi bardziej niepokojąco, bo dotyczy AES, czyli jednego z najważniejszych współczesnych algorytmów szyfrowania. Trzeba jednak uciąć sensację – Claude nie złamał AES używanego przez banki, komputery i serwery. Pełny AES-128 wykonuje dziesięć rund przekształceń danych, a Anthropic badało jego celowo osłabioną, siedmiorundową wersję, którą kryptografowie analizują po to, aby poznawać granice bezpieczeństwa całej konstrukcji. Najlepsza wcześniejsza metoda ataku na ten wariant pochodziła z 2013 roku.
Czytaj też: Test Kingston IronKey Keypad 200. Ważne dane na pendrive wreszcie będą bezpieczne
Claude samodzielnie opracował rozwiązanie nazwane “Möbius Bridge” (Most Möbiusa), które wykorzystuje algebraiczną strukturę tablicy podstawień AES i pozwala pominąć zgadywanie jednego z dziewięciu bajtów klucza. Ogranicza to liczbę prób 256 razy, a po uwzględnieniu dodatkowych optymalizacji cały atak staje się około 200-800 razy szybszy od wcześniejszej metody. Nie oznacza to praktycznego zagrożenia, bo Atak zakłada dostęp do 2105 odpowiednio dobranych wiadomości, wymaga niewyobrażalnej ilości pamięci i dotyczy siedmiu z dziesięciu rund. Innymi słowy, nasze zaszyfrowane dyski i połączenia bankowe nie stały się więc nagle otwarte dla każdego posiadacza modelu językowego.
Wynik ma jednak znaczenie naukowe, bo model znalazł nowy sposób spojrzenia na problem, którego najlepsze rozwiązanie nie zmieniało się od trzynastu lat.
Czy trzeba obawiać się tej dziury?
Dziury w HAWK nie trzeba obawiać się jak podatności w systemie operacyjnym albo routerze. Algorytm nie był bowiem wdrożonym standardem, więc jego wycofanie nie wymaga żadnej reakcji z naszej strony. Atak nie przenosi się też automatycznie na inne rozwiązania postkwantowe. Nie ma również powodu, aby porzucać AES. Claude zaatakował ograniczony model badawczy, a nie pełną konstrukcję. Kryptografowie celowo osłabiają algorytmy i sprawdzają, jak stopniowo pękają ich zabezpieczenia, aby ocenić margines pozostawiony w finalnej wersji.
Czytaj też: Chiny mają coś lepszego niż Neuralink. Tamtejszy chip mózgowy trafił do… systemu ubezpieczeń zdrowotnych
Warto za to zwrócić uwagę na tempo. Jeszcze niedawno modele językowe traktowaliśmy głównie jako narzędzia do streszczania publikacji i generowania kodu. Teraz jeden z nich przeprowadził wielodniowy przegląd literatury, stawiał hipotezy, pisał eksperymenty w Pythonie i SageMath, odrzucał ślepe uliczki oraz tworzył procedury weryfikujące własne ataki. Przy HAWK człowiek głównie organizował pracę agentów, ale w przypadku AES ingerencja badaczy ograniczała się do przypominania modelowi, że ma szukać wyniku wartego publikacji, zamiast zbyt szybko uznawać problem za niemożliwy. Po kilku dniach i wygenerowaniu setek milionów tokenów pojawił się Most Möbiusa.
Anthropic szacuje koszt opracowania każdego z dwóch wyników na około 100 tysięcy dolarów, czyli około 374 tysięcy złotych za jeden rezultat. Taka kwota jest naturalnie wysoka, ale nadal może być niższa od kosztów wieloletniej pracy zespołów badawczych albo późniejszej wymiany wadliwego standardu.
Największym ograniczeniem mogą stać się ludzie
Paradoksalnie Claude znacznie szybciej stworzył nowe rozwiązanie, niż ludzie zdołali potwierdzić jego poprawność. Atak na AES powstał w ciągu około tygodnia, ale dwóch badaczy potrzebowało niemal miesiąca, aby zdobyć wystarczającą pewność, że matematyka rzeczywiście się zgadza. Dla mnie właśnie tutaj zaczyna się prawdziwy problem przyszłości. Co zrobimy, kiedy modele będą codziennie produkować setki potencjalnych przełomów, a zweryfikowanie każdego z nich będzie wymagało tygodni pracy najlepszych specjalistów? Fałszywy wynik można odrzucić. Gorzej, jeśli poprawny dowód zostanie zignorowany tylko dlatego, że nikt nie zdołał przebić się przez jego objętość.
Źródła: Anthropic#1, Anthropic#2, Badanie HAWK, Badanie siedmiu rund AES
