AMD sonduje rynek ws. dedykowanych NPU
Rahul Tikoo, szef działu procesorów konsumenckich AMD, przyznał, że firma aktywnie rozmawia z partnerami o zastosowaniach i możliwościach specjalizowanych akceleratorów AI. Ta strategia to reakcja na rosnące zainteresowanie głównych producentów komputerów.
Wypowiedź Tikoo zbiegła się w czasie z działaniami producentów OEM takich jak Lenovo, Dell Technologies czy HP, którzy badają możliwość zastąpienia energożernych układów graficznych wyspecjalizowanymi akceleratorami NPU i innymi dedykowanymi układami w komputerach do zadań sztucznej inteligencji – zwiastunem zapotrzebowania jest choćby użycie przez Della karty Qualcomm AI 100 PC w nowym laptopie Dell Pro Max Plus. Producent określił to urządzenie mianem pierwszej na świecie stacji roboczej z dyskretną NPU klasy korporacyjnej i zdaje się zapowiadać szerszy trend.
Technologiczny potencjał AMD w dziedzinie NPU
AMD dysponuje solidnymi podstawami do szybkiego wejścia na rynek dyskretnych NPU. Bazą dla komponentów neuronowych w procesorach Ryzen stała się technologia silnika AI pozyskana wraz z przejęciem Xilinxa.
Christopher Cyr, dyrektor techniczny Sterling Computers, zauważa, że sposób wykorzystania technologii z tego przejęcia daje AMD duże możliwości w tworzeniu przyszłych, wydajniejszych dyskretnych rozwiązań. Kluczową przewagą takiego podejścia miałaby być łatwość skalowania wydajności poprzez łączenie wielu NPU w jednym systemie.
Dyskretne NPU muszą jednak wykazać się wyraźnie niższym apetytem na energię niż standardowe karty graficzne (które, trzeba przyznać, są pod tym względem niezwykle żarłoczne) – to warunek ich rynkowej atrakcyjności. Jednostki neuronowe pozwalają komputerom na sprawne wykonywanie zadań AI i uczenia maszynowego bez obciążania systemu energochłonnymi GPU. Choć brzmi to obiecująco, realne testy pokażą, czy teoria przełoży się na praktykę.
Rynek NPU: dwa podejścia i rosnąca konkurencja
W obecnej chwili na rynku akceleratorów AI dominują dwie strategie implementacji:
- Zintegrowane NPU – dominujące rozwiązanie, gdzie procesor neuronowy współdzieli układ scalony z CPU i GPU (SoC)
- Dyskretne NPU – samodzielne karty lub moduły specjalizowane w obliczeniach AI
Pierwsze podejście stosują już Apple w układach A i M, Intel (w układach Core Ultra 200), AMD (Ryzen AI 300) i Qualcomm (Snapdragon X). Alternatywą są rozwiązania dyskretne, takie jak choćby jednostka Intel Movidius VPU w starszych laptopach Microsoft Surface Laptop i Laptop Studio.
Użyta przez Della karta inferencyjna zbudowana została w oparciu o dwa przeznaczone do zastosowań w centrach danych układy Qualcomm AI 100 PC, ma 64 GB własnej pamięci LPDDR4x i jest w stanie osiągnąć wydajność 450 bilionów operacji na sekundę (TOPS) dla obliczeń 8-bitowych przy maksymalnym poborze mocy 75 W. Startup Encharge AI pochwalił się jeszcze efektywniejszymi rozwiązaniami – ich NPU w formacie M.2 dla laptopów ma osiągać wydajność 200 TOPS przy zapotrzebowaniu na moc wynoszącym zaledwie 8,25 W, a przeznaczona dla stacjonarnych PC karta PCIe ma posiadać 4 układy o łącznej wydajności około 1000 TOPS, czyli będzie oferować poziom zbliżony do oferowanych przez GPU przy znacznie niższym zużyciu energii.
Czytaj też: iPhone 17 – czy nadchodzi podwyżka cen? Nowe modele mają kosztować więcej, ale nie wszystkie
Oprogramowanie – klucz do sukcesu NPU
AMD poczyniło znaczące postępy w rozwoju oprogramowania AI, w tym dla swoich jednostek neuronowych. Przykładem jest otwartoźródłowy projekt Gaia, umożliwiający uruchamianie lokalnych dużych modeli językowych na komputerach z procesorami Ryzen.
Rozwój takiego ekosystemu jest niezbędny dla powodzenia dyskretnych NPU. Jak podaje serwis CRN, AMD ma techniczne możliwości szybkiego wprowadzenia takich produktów, wykorzystując obecne rozwiązania jako punkt wyjścia. Bez dojrzałego oprogramowania nawet najlepszy sprzęt pozostanie jednak bezużyteczny – to obszar, gdzie wszyscy gracze muszą jeszcze mocno popracować.
Co dalej z dyskretnymi NPU?
Ewentualne pojawienie się dyskretnych NPU od AMD może wpłynąć na rynek komputerów, oferując bardziej energooszczędną alternatywę do zadań AI. Ma to szczególne znaczenie wobec rosnącego zapotrzebowania na lokalne przetwarzanie danych zarówno w modelach językowych, jak i choćby w zastosowaniach związanych z przetwarzaniem obrazu.
Choć potencjał jest niewątpliwy, sukces zależeć będzie od realnej przewagi wydajnościowej nad zintegrowanymi rozwiązaniami i konkurencyjnej ceny. Branża obserwuje ten trend z nadzieją, lecz zdrowy sceptycyzm wydaje się tu jak najbardziej na miejscu – niejedna “rewolucyjna” technologia okazała się w przeszłości ślepą uliczką.