Zespół związany przede wszystkim z Uniwersytetem Pekińskim opracował właśnie hybrydowy system obliczeniowy, w którym klasyczne elektroniczne układy FPGA zostały połączone za pomocą fotoniki krzemowej i dużego przełącznika optycznego. Obliczenia nadal wykonują więc układy elektroniczne, ale to światło odpowiada za błyskawiczne przesyłanie danych między nimi. W rzeczywistości mamy więc do czynienia z bardzo zaawansowaną siecią komunikacyjną dla wielu chipów.
Chińczycy nie zbudowali komputera liczącego światłem
Zamiast projektować komputer optyczny od zera i liczyć na to, że przemysł pewnego dnia dostosuje do niego oprogramowanie oraz procesy produkcyjne, Chińczycy sięgnęli po istniejące programowalne układy FPGA. Następnie usunęli jedno z ich istotnych ograniczeń, zapewniając im znacznie sprawniejszy kanał wymiany informacji.
Podobny temat opisywałem już przy fotonicznym procesorze do sztucznej inteligencji oraz przy układzie, w którym światło zaczęło pełnić funkcję zbliżoną do pamięci. Tam fotonika próbowała wejść bezpośrednio w obliczenia. W chińskim projekcie jej zadanie jest pozornie skromniejsze, ale zarazem znacznie bliższe temu, czego potrzebują współczesne centra danych i co ma produkcyjnie większy sens w krótszej perspektywie czasu.
400 Gb/s dla każdego układu i 6,4 Tb/s całej sieci
Podstawą chińskiego systemu jest krzemowy nadajnik-odbiornik fotoniczny o przepustowości 400 Gb/s. Urządzenie zamienia sygnały elektryczne generowane przez FPGA na światło, przesyła je dalej, a następnie ponownie przekształca w sygnał elektryczny po stronie odbiornika. Pojedyncze połączenie wykorzystuje cztery kanały świetlne o różnych długościach fali, z których każdy obsługuje 100 Gb/s. Najważniejszym elementem jest przełącznik optyczny 16 x 16, który może kierować strumienie danych między różnymi układami bez klasycznego elektronicznego buforowania, kolejkowania i ciągłego przepisywania pakietów. W pełnej konfiguracji sieć mogłaby połączyć do 16 procesorów, osiągając tym samym teoretyczną łączną przepustowość rzędu 6,4 Tb/s.
Czytaj też: Chiny zrobiły baterię, której nie trzeba ładować przez tysiące lat
Naukowcy nie wykorzystali w demonstratorze wszystkich 16 wejść i wyjść. Zbudowali za to system złożony z pięciu FPGA, serwera, fotonicznych nadajników-odbiorników oraz centralnego przełącznika. Przetestowali też 20 różnych tras przesyłu, a każda z nich zapewniła transmisję 400 Gb/s bez błędów po aktywowaniu mechanizmu korekcji FEC. Całość działała bez dodatkowego wzmacniacza optycznego, ponieważ strata sygnału w przełączniku wynosiła mniej niż 5 dB przy długości fali na poziomie 1300 nm.
Szeroki zakres pracy przełącznika to nie przypadek. Jego charakterystyka pozostawała stabilna w paśmie liczącym około 100 nm, dzięki czemu wiele długości fali można było przesyłać jednym światłowodem. Bez takiego rozwiązania cztery kanały jednego nadajnika zajmowałyby cztery osobne porty przełącznika. Wówczas konstrukcja 16 x 16 obsłużyłaby zaledwie cztery układy FPGA, a nie szesnaście.
GPU było mocniejsze, ale przegrało z własnym sposobem pracy
Najciekawszy etap eksperymentu nie polegał jednak na bezproduktywnym przesyłaniu strumienia testowych danych. Badacze podzielili pięciowarstwową konwolucyjną sieć neuronową pomiędzy pięć układów FPGA. Każdy procesor otrzymał jedną warstwę modelu odpowiedzialnego za usuwanie szumu z obrazów Fashion-MNIST.
Pierwszy układ wykonywał swoją część obliczeń i natychmiast wysyłał powstałą mapę cech światłem do drugiego. Kolejny chip rozpoczynał pracę, podczas gdy poprzedni mógł już przyjmować następne dane. Powstała w ten sposób sprzętowa linia produkcyjna, w której każdy etap sieci neuronowej działał równolegle i otrzymywał informacje bezpośrednio od poprzednika.
Czytaj też: Koniec procesorów jakie znamy? Chiny dokonały czegoś niesamowitego jako pierwsze na świecie
W klasycznym GPU proces wygląda zupełnie inaczej. Po wykonaniu jednej warstwy wyniki pośrednie trafiają zwykle do pamięci. Procesor musi następnie przygotować kolejną warstwę, pobrać dane ponownie i dopiero wtedy wznowić obliczenia. W przypadku bardzo dużych zadań olbrzymia przepustowość pamięci częściowo maskuje ten problem. Przy małych, następujących po sobie operacjach opóźnienia zaczynają jednak dominować nad samym czasem liczenia.
Chiński system dysponował mocą około 1,969 TFLOPS w obliczeniach FP32. Porównywany procesor graficzny osiągał teoretycznie około 16,96 TFLOPS, a więc miał niemal dziewięciokrotnie większe możliwości obliczeniowe. Mimo tego wykonanie zadania dla tysiąca obrazów zajęło GPU 15,643 ms, podczas gdy pięć połączonych optycznie układów FPGA potrzebowało 105,16 mikrosekundy. Różnica wyniosła niemal 149 razy. Zastosowane jednostki DSP pracowały ze skutecznością wykorzystania sięgającą 94,7%, a więc zbliżyły się do teoretycznego minimum czasu wykonania wynoszącego 99,6 mikrosekundy.
Chiński prototyp nie uruchamiał jednak wielkiego modelu językowego, generatora obrazów ani rozbudowanego systemu rozpoznawania otoczenia. Badanie objęło pięciowarstwową sieć z filtrami 5 x 5, przetwarzającą niewielkie obrazy 32 x 32 piksele. Sam model został wcześniej wytrenowany poza badaną platformą. Układy FPGA zostały też specjalnie zaprogramowane pod konkretną architekturę. Każdy z nich miał przypisaną jedną warstwę i mógł bez przerwy wykonywać ten sam rodzaj operacji. GPU jest zaś sprzętem znacznie bardziej uniwersalnym, który płaci część swojej wydajności za elastyczność. Porównanie pokazuje więc przewagę precyzyjnie zaprojektowanego potoku w jednym zadaniu, a nie uniwersalną wyższość fotonicznej sieci nad dowolnym procesorem graficznym.
Przyszłość AI może zależeć bardziej od połączeń niż procesorów
Od dawna patrzymy na procesory jak na pojedyncze, coraz doskonalsze maszyny. Kolejne generacje mają więcej rdzeni, wyższe taktowanie i szybszą pamięć podręczną. Rozwój AI stopniowo zmienia jednak komputer w sieć tysięcy współpracujących układów, a w takiej skali sam procesor przestaje być najważniejszym elementem. Liczy się również to, jak szybko można dostarczyć mu dane oraz przekazać wynik dalej. Tego typu zmianę widać przy rozbudowie chińskiej mocy obliczeniowej.
Czytaj też: Nigdy wcześniej Chiny tego nie zrobiły. Co dokładnie pokazuje ostatni akt państwa?
Przemysł już dostrzega ten problem. NVIDIA rozwija przełączniki sieciowe z fotoniką krzemową integrowaną bezpośrednio z układami sterującymi. Producent twierdzi, że takie podejście może obniżyć zapotrzebowanie na energię połączeń 3,5-krotnie względem klasycznych, wymiennych modułów optycznych. Chińczycy także wskazują na dalszy krok w postaci umieszczenia fotoniki jeszcze bliżej układu obliczeniowego. W obecnym prototypie między FPGA i nadajnikiem fotonicznym pozostaje krótka ścieżka elektryczna. Skrócenie jej poprzez wspólne opakowanie pozwoliłoby ograniczyć straty sygnału, narzut protokołów i opóźnienia.
Nie wierzę jednak, żeby klasyczne GPU nagle zniknęły, bo nie zostaną ot tak zastąpione przez rzędy migających laserów. Są zbyt uniwersalne, mają zbyt dojrzałe środowisko programistyczne i rozwijają się zbyt szybko. Bardziej prawdopodobny wydaje mi się świat, w którym nadal liczymy elektronicznie, ale coraz większą część komunikacji powierzamy fotonom.
Źródła: National Science Review, NVIDIA
