Zabić staruszkę na przejściu czy poświęcić pasażerów?

Naukowcy z MIT przebadali 40 milionów odpowiedzi, by dowiedzieć się, jaką według ludzi decyzję powinna podjąć SI prowadząca samodzielnie samochód. Ratować starych czy młodych? Ludzi czy zwierzęta? Cztery lata po rozpoczęciu eksperymentu naukowcy opublikowali analizę danych w czasopiśmie "Nature".

Autonomiczne auta to, czy chcemy czy nie, przyszłość motoryzacji, a przynajmniej jej masowej części (entuzjastów z grubym portfelem raczej nic nie powstrzyma przed zakupem wymarzonego V8 pożerającego paliwo niczym czołg). Ponieważ sytuacja na drodze, szczególnie w przypadku ruchu łączącego przewidywalne auta autonomiczne oraz zdecydowanie mniej przewidywalnych ludzkich kierowców, może rozwinąć się bardzo różnie, wypadki będą się zdarzały nadal. Jak w ich obliczu ma zachować się SI? Na to pytanie starają się odpowiedzieć naukowcy z MIT. Wyniki badania o nazwie „Moral Machine” dają odpowiedź na pytanie, jak chcielibyśmy, by SI działała w sytuacjach pewnej kolizji. Nowe, zakrojone na szeroką skalę badanie opracowane przez badaczy MIT ujawnia pewne wyraźne globalne preferencje dotyczące etyki pojazdów autonomicznych, jak również regionalne różnice w tych preferencjach. Niezwykłą cechą badania przeprowadzonego przez MIT jest jego zasięg. Wzięło w nim udział ponad 2 mln osób z ponad 200 krajów.

Reklama

Problem, który poddano rozważaniu jest współczesną odmianą starego dylematu etycznego zwanego dylematem wagonika (trolley problem). Polega on na wyobrażeniu sobie następującej sytuacji: wagonik kolejki wyrwał się spod kontroli i pędzi w dół po torach. Na jego drodze znajduje się pięć osób przywiązanych do torów przez szalonego filozofa. Ale możesz przestawić zwrotnicę i w ten sposób skierować wagonik na drugi tor, do którego przywiązany jest jeden człowiek. Co powinieneś zrobić?Badanie „Moral Machine” poszło jednak o krok dalej. Osoby, które miały być potencjalnym celem pojazdu były przedstawione w sposób mniej anonimowy niż w oryginalnym dylemacie, a i sam scenariusz uległ przeobrażeniu. Czy pojazd powinien poświęcić swoich pasażerów w zderzeniu z nieruchomym obiektem, czy raczej najechać na pieszych? A jeśli już ma ominąć obiekt (kosztem pieszych, naturalnie) to kogo powinien uderzyć? Wybór jest ciekawy. Odnoszącą sukcesy osobę ze świata biznesu? Znanego przestępcę? Grupę starszych ludzi? Stado krów? Pieszych, którzy przechodzili przez ulicę, gdy kazano im czekać?

Dylemat wagonika został wykorzystany w jednym z odcinków serialu „Good Place” emitowanym na Netflixie:

Wyniki, uzyskane na podstawie 40 milionów decyzji sugerują, że ludzie wolą ratować ludzi, a nie zwierzęta, oszczędzić jak najwięcej istnień i skłonni są do uratowania młodszych osób. Zaobserwowano też mniej wyraziste tendencje do oszczędzenia życia kobiet ponad mężczyznami, ratowania osób zamożniejszych kosztem biedniejszych i oszczędzania raczej pieszych niż pasażerów.

Wiek i religia nie wpływają na poglądy

Około 490 000 osób odpytanych o moralne dylematy wypełniło także ankietę demograficzną zawierającą ich wiek, płeć i poglądy religijne. Naukowcy stwierdzili, że te cechy nie mają „znaczącego wpływu” na decyzje podejmowane przez ludzi.

Badacze odkryli natomiast pewne różnice kulturowe w podejmowanych decyzjach. Mieszkańcy Francji oceniali ogólną liczbę osób, które zginęłyby w wypadku, podczas gdy respondenci z Japonii przykładali do tego mniejszą wagę. Naukowcy podkreślają, że „Moral Machine” nie mogło spełnić wszystkich złożoności dylematów samochodów autonomicznych. Mają jednak nadzieję, że „Maszyna Moralna” zainicjuje globalną dyskusję o decyzjach moralnych, jakich będą musiały dokonywać samochody przyszłości.

„Nigdy w historii ludzkości nie pozwoliliśmy, aby maszyna w sposób autonomiczny decydowała, kto powinien żyć, a kto powinien umrzeć, w ułamku sekundy, bez nadzoru w czasie rzeczywistym” – napisali w podsumowaniu analizy naukowcy z MIT. „Zanim pozwolimy naszym samochodom podejmować etyczne decyzje, musimy przeprowadzić globalną dyskusję, aby pokazać nasze preferencje firmom, które opracują algorytmy, oraz decydentom, którzy będą je regulować prawnie”. 

Trudno wyobrazić sobie sytuację, w której zasady, jakimi kierować się będzie SI nie będą uregulowane odgórnie. W przeciwnym razie producenci zaczną walczyć o miano najbezpieczniejszego (dla pasażerów) auta autonomicznego, co z kolei może prowadzić do powstania samochodów, które będą podejmowały wyjątkowo krwawe w skutkach decyzje, byleby tylko ocalić pasażerów.

Otwarta pozostaje też kwestia wartościowania ludzkiego życia, będąca przedmiotem badania. Nietrudno wyobrazić sobie sytuację, w której, bez odpowiednich regulacji, producenci zaczną oferować „konto premium” dla SI sprzedawanych pojazdów. Jeśli będzie odpowiednio drogie może prowadzić do zachowania za wszelką cenę odpowiednio bogatych osób. Dylematów jest znacznie więcej, a wyobrażenie sobie choćby kilku prowadzi do dosyć smutnego wniosku. Nadal jesteśmy na początku drogi do prawdziwie autonomicznych, ale i bezpiecznych, samochodów. Gdybyście mieli ochotę sprawdzić, jakie decyzje wy podjęlibyście kierując rozpędzonym wagonikiem, znaleźliśmy dla was internetowy quiz.  | CHIP

Close

Choć staramy się je ograniczać, wykorzystujemy mechanizmy takie jak ciasteczka, które pozwalają naszym partnerom na śledzenie Twojego zachowania w sieci. Dowiedz się więcej.