Serwer DGX-2 z 2 petaflopsami od Nvidii za 1,4 miliona złotych

DGX-2 potrafi wytrenować FAIRseq, sieć neuronową udostępnioną przez Facebook w serwisie Github, w zaledwie dwa dni. Dla porównania, zeszłorocznemu DGX-1 zbudowanemu również na Voltach zajmowało to aż 20 dni, czyli 10 razy dłużej. Za serwer trzeba zapłacić 400 tysięcy dolarów (ok. 1,4 miliona złotych). Gdyby Wam przyszła do głowy próba zbudowania na własną rękę klastra o podobnej mocy, na same karty graficzne trzeba byłoby wydać pół milion dolarów (1,7 miliona złotych).
Serwer DGX-2 z 2 petaflopsami od Nvidii za 1,4 miliona złotych

Serwer DGX-2 to superkomputer za 1,4 miliona złotych (fot. Nviadia)

Serwer składa się z prawie 82 tysięcy rdzeni CUDA i 512 GB pamięci HBM2. Całkowita prędkość przesyłu wynosi 14,4 TB/s dzięki technologii NVSwitch, która pozwala współdzielić pamieć wszystkim 16 układom graficznym. Przesył pomiędzy GPU wynosi 300 GB/s. Szafa waży 160 kilogramów i wymaga zasilania 10 tysiącami watów. DGX-2 ma osiem 100-gigabitowych złącz zabezpieczonych za pomocą narzędzia EDR (Endpoint Detection and Response). Całość nadzorują dwa procesory Xeon Platinum. W DGX-2 zamontowano też 30 TB pamięci SSD obsługujących protokół NVME (Non-Volatile Memory Express), a także 1,5 TB pamięci RAM.

Serwer składa się z 16 kart graficznych Volta i przyda się szczególnie do modelowania sieci neuronowych (fot. Nvidia)

Wraz z superkomputerem dostępne są też narzędzia Nvidii do programowania sztucznej inteligencji, które można pobrać ze strony producenta. Znajdziemy tam biblioteki programistyczne przydatne między innymi do analizowania filmów, obliczeń matematycznych, a także poprawiające wydajność projektowanych sieci neuronowych. Wszystko dzięki optymalizacji pod konstrukcję DGX-2. | CHIP