Inteligentne auto pomyliło znak stop z ograniczeniem prędkości.

Można zhakować samochód naklejką

Fot. Uniwersytet w Waszyngtonie
Naukowcy oszukali sztuczną inteligencję, sterującą inteligentnymi samochodami. Za pomocą naklejek modyfikowali znaki drogowe. Autonomiczne pojazdy myliły nakazy zatrzymania się i skrętu w prawo.

Wiele osób przed zakupem autonomicznego samochodu zapewne będzie miało obawy o przejęcie kontroli nad ich pojazdem przez hakerów. Te obawy są znane od dość dawna i koncerny pracują nad tym, aby ich auta były nie tylko wygodne, ale również bezpieczne. Jak się okazuje, problem stanowi nie tylko teoretyczna możliwość bezpośredniego złamania zabezpieczeń pojazdu. Naukowcy z Waszyngtonu pokazali, w jaki sposób zmylić inteligentne auto, co może spowodować wypadek. W tym celu lekko zmodyfikowali znaki drogowe: dla człowieka niosły wciąż tę samą informację, ale SI samochodu interpretowało je zupełnie inaczej, myląc na przykład znak stopu z ograniczeniem prędkości.

Inteligentne auto łatwo jest oszukać na drodze.

Naukowcy oszukali inteligentne auto zmieniając fakturę strzałki skrętu w prawo (fot. Uniwersytet w Waszyngtonie)

Ryzyko jest o tyle duże, że taką nalepkę w zasadzie każdy może sobie wydrukować i nakleić na znak. Niezależnie od tego, czy będzie to nieodpowiedzialny żartownić, czy ktoś wynajęty do zrobienia nam krzywdy, atak jest zaskakująco prosty do przeprowadzenia. Naukowcy wykorzystali 34 różne znaki. Najbardziej interesujące wyniki dotyczyły znaku stop oraz znaku skrętu w prawo. Znak stop był testowany w kilku konfiguracjach. W jednym przypadku sztuczna inteligencja zawsze myliła znak stop z ograniczeniem prędkości. W innym badaniu uczeni nakleili na znak stop naklejki ze słowami „LOVE” oraz „HATE”. Wyniki były tylko nieznacznie inne, algorytm mylił się aż w 66 proc. przypadków.

Inteligentne auto pomyliło znaki.

Autonomiczne pojazdy są przyszłością motoryzacji (fot. bp63vincent)

Znak nakazu skrętu w prawo był spreparowany w ten sposób, aby sztuczna inteligencja pomyliła go ze znakiem oznaczającym dodatkowy pas ruchu. W tym wypadku zmieniona została tylko strzałka skrętu. Dla obserwatora z zewnątrz ten znak nie był znacząco różny od zwykłego znaku. Sztuczna inteligencja jednak w każdym z testów pomyliła go albo ze znakiem nakazu zatrzymania się, albo z ze znakiem informującym o dodatkowym pasie ruchu.

Uczeni zamierzają kontynuować badania. Chcą sprawdzić między innymi wpływ zabrudzenia znaków na zachowanie autonomicznego pojazdu. Sugerowane przez naukowców z Waszyngtonu rozwiązanie dla producentów inteligentnych samochodów opiera się na analizie trasy oraz otoczenia. Sztuczna inteligencja musi być po prostu bardziej inteligentna i czujna na drodze. Już teraz wiadomo, że branie pod uwagę samych znaków drogowych może prowadzić do niebezpiecznych sytuacji na drodze. Zwłaszcza, jeśli zarządca drogi ustawia je w złych miejscach, co jak wiemy z naszego podwórka zdarza się nie tak rzadko. | CHIP