23 lipca chińskie Ministerstwo Nauki i Technologii opublikowało nowy zestaw wytycznych krajowych, które skupiają się nie na osiągach czy liczbie wyprodukowanych pojazdów, lecz na moralnej architekturze systemów autonomicznego prowadzenia. To wyraźna zmiana tonu i to zaskakująca, bo kraj znany z agresywnej innowacyjności teraz oficjalnie promuje zasady takie jak odpowiedzialność, przejrzystość i ochrona użytkownika. Jednak choć dokument brzmi obiecująco, to jego potencjalne efekty są znacznie głębsze. Kto bowiem zdecyduje, co oznacza “bezpieczne” w kontekście SI? Czy algorytmy mogą ponosić odpowiedzialność? I co ten ruch mówi o ambicjach Chin w globalnym wyścigu o dominację w transporcie autonomicznym?
Chiny stawiają granice autonomicznym samochodom. Teraz najważniejsze są etyka i odpowiedzialność
Nowe wytyczne zaczynają się od fundamentalnego postulatu, że to bezpieczeństwo użytkownika ma być priorytetem. Obejmuje to nie tylko unikanie wypadków i awarii, ale także zakaz wprowadzania klientów w błąd co do możliwości systemu. Innymi słowy, producent nie może twierdzić, że jego pojazd jest w pełni autonomiczny, jeśli w rzeczywistości wymaga ludzkiej interwencji w krytycznych momentach. Takie nieścisłości doprowadziły już do śmiertelnych pomyłek np. w USA, gdzie systemy Autopilot i Full Self-Driving od Tesli są ciągle przedmiotem śledztw federalnych po serii wypadków. Chiny wyraźnie chcą uniknąć podobnego scenariusza.
Czytaj też: Opakowali akumulator samochodowy w drewno i pokonali Teslę. Zaskakujące wyniki
Kolejnym wymogiem jest przejrzystość algorytmiczna. Firmy muszą dokumentować i ujawniać sposób działania SI, która steruje pojazdami, a przy tym tłumaczyć, jak podejmowane są przez nią decyzje. To rewolucja w stosunku do dotychczasowej praktyki branży, w której modele uczenia maszynowego traktowano jako własność intelektualną, czyli zamkniętą, nieprzejrzystą i trudną do analizy. Czy giganci tacy jak BYD, NIO czy Huawei pójdą tą drogą? Czas pokaże. Ale niewykluczone, że podobnych przepisów zażądają też organy regulacyjne w Europie, a nawet w USA.
Zbieranie danych (drażliwy temat w Chinach) również zostało ograniczone. Twórcy autonomicznych systemów mają teraz prawo gromadzić jedynie dane niezbędne do działania pojazdu. Koniec więc z masowym rejestrowaniem zachowań pieszych, warunków drogowych czy biometryki kierowców, jeśli nie jest to uzasadnione potrzebami pojazdu. To interesująca zmiana, biorąc pod uwagę reputację Chin jako państwa, w którym nadzór jest wyniesiony na wyżyny. Można to jednak interpretować jako próbę wyznaczenia granicy między bezpieczeństwem publicznym a prywatną eksploatacją danych, czyli problemem, z którym mierzą się także firmy technologiczne zwłaszcza w Unii Europejskiej.
Najciekawszy być może jest zapis o odpowiedzialności prawnej. W klasycznym samochodzie winę za wypadek ponosi kierowca. Ale przy systemach ADAS czy poziomie 3-4 autonomii, granice już się zacierają. Nowe chińskie wytyczne sugerują przypisywanie winy w zależności od poziomu autonomii. Efekt? Jeśli człowiek miał nadzorować system, to on odpowiada, ale jeśli to maszyna przejęła pełną kontrolę, to odpowiedzialność może spaść na producenta. Takie podejście może zmienić nie tylko systemy ubezpieczeń, ale też prawo karne i zasady egzekwowania przepisów.
Czytaj też: Nie jeden, a dwa przełomy. Chiny pokazują światu, jak zrewolucjonizować akumulatory
W skali globalnej te przepisy mają znacznie większe znaczenie niż tylko porządkowanie rynku krajowego. Pokazują, że Chiny nie chcą tylko tworzyć autonomiczne samochody, ale też chcą ustalać zasady tej gry, projektując ramy filozoficzne i prawne dla tej technologii. Trudno sobie nie wyobrazić, że standardy wypracowane w Pekinie mogą z czasem stać się wzorem dla krajów Globalnego Południa, które dopiero tworzą swoje systemy regulacji. W momencie, gdy UE wdraża “wyjaśnialną SI”, a amerykańskie instytucje ścigają Teslę, moment wydania chińskich wytycznych nie jest przypadkowy. Wciąż nie wiadomo jednak, jak restrykcyjnie będą egzekwowane te zasady. Czy deweloperzy nie znajdą kreatywnych sposobów, by obejść przejrzystość algorytmów? Czy uda się rzeczywiście przypisać winę SI, która uczy się i zmienia z dnia na dzień? Czy prawo nadąży za tempem rozwoju maszyn? To pytania, które dopiero znajdą odpowiedzi w praktyce.