Metaliczny robot na czterech nogach z obrotowym karabinem na górze.

Roboty, które będą zabijały ludzi

Fot. Piotr Sokołowski
Broń, która prowadzi wojnę przy minimalnym udziale człowieka, a nawet całkiem samodzielnie, to marzenie każdego departamentu obrony. Ale czy SI w militariach na pewno pozwoli nam uniknąć niepotrzebnych ofiar?

Brandon Bryant przez 5 lat był operatorem drona. Szkołę ukończył z wyróżnieniem, pracował w bazie wojskowej w Nowym Meksyku w USA. Każdego dnia zakładał  mundur, całował dzieciaki na do widzenia i jechał do swojego centrum operacyjnego. Zasiadał przed 14 monitorami i 4 klawiaturami. Naciskał przycisk, a po drugiej stronie oceanu ginął człowiek. Po 5 latach takiego życia nawet jego sny były w podczerwieni.

Bryant uważał, że spełnia swój patriotyczny obowiązek, w końcu USA były w stanie wojny z Al-Kaidą, której członkowie ukrywali się w Afganistanie. Robił, co mógł, żeby pomóc swojemu krajowi.

Ale praca operatora drona to nie tylko bombardowanie oddalonych o dziesiątki tysięcy kilometrów “celów”. Najpierw całymi dniami podgląda się życie kobiet, mężczyzn i ich dzieci. A w końcu ich eliminuje.

Aż przyszedł ten dzień. Bryant jak zwykle wcisnął przycisk w USA i czekał 16 sekund, aż wystrzelona w Afganistanie rakieta doleci do celu i kolejny terrorysta zostanie zabity. W ostatnich sekundach przed uderzeniem pocisku, w pole rażenia weszły dzieci.

Tego dnia Bryant wyszedł ze swojego małego biura i w mundurze wrócił do własnej rodziny. Wkrótce lekarze zdiagnozowali u niego zespół stresu pourazowego.

Od 2012 roku technologia rozwinęła się jednak na tyle, że podobne przypadkowe śmierci cywilów należą (lub zaraz będą należeć) do przeszłości.

Chmury mają oczy

Wydatki na rozwój sztucznej inteligencji w 2016 roku wyniosły ponad miliard dolarów. Ale czymże jest 1 000 000 000 dolarów przy 12, 15 miliardach dol., o które w 2017 roku wnioskował amerykański Pentagon. Kwota ta miała być wydana właśnie na rozwój projektów związanych ze sztuczną inteligencją.

Właśnie dzięki takim pieniądzom amerykańska armia mogła niedawno ogłosić, że opracowuje system automatycznego rozpoznawania i namierzania osób oraz pojazdów. W ten sposób już żaden Brandon Bryant nie będzie musiał cierpieć z powodu szkód kolateralnych (prawda, jak ładnie można nazwać śmierć dzieci, które weszły na pole rażenia?).

Może przypominają się wam teraz odcinki “Black Mirror”. Na przykład “Hated in the Nation” – ostatni odcinek trzeciego sezonu serialu, w którym kontrowersyjne osoby w państwie są eliminowane za pośrednictwem bardzo podobnego systemu. Drony, które mogą nawet z dużej odległości rozpoznawać cele są rozwijane już od 2011 roku. Algorytmy rozpoznawania obrazu w różnych warunkach oświetleniowych, w ruchu i w niespodziewanych sytuacjach nie są jednak domeną wojska. Są domeną firm technologicznych; prawdopodobnie korzystacie z nich dość często – czy jest to Face ID Apple’a, czy Zdjęcia albo wyszukiwanie obrazów Google.

(Don’t) be evil

W marcu 2018 roku okazało się, że wojsko USA współpracuje z Google przy rozwijaniu projektu sztucznej inteligencji analizującej dane z dronów. Chodzi oczywiście o Projekt Maven. Koncern twierdzi, że wyniki jego pracy maja być stosowane wyłącznie “do celów nie ofensywnych”.

Nie dziwi, że wojsko zwróciło się z prośbą o możliwość wykorzystania AI Google’a. W końcu jest to firma, która od lat uczy autonomiczne samochody rozpoznawania nawet najdziwniejszych obiektów na drodze – krów, rowerzystów, dzieci bawiących się piłką i wyskakujących znienacka na ulicę. W Google pracuje cały zespół osób, których celem jest “zaskakiwanie” samochodów, choć nie wszystkie sytuacje można przewidzieć. Kilka lat temu Astro Teller, szef eksperymentalnej jednostki Google X opowiadał:

Pewnego razu testowaliśmy nasz samochód na ulicach San Francisco. To było jakieś wzgórze, gdy zza niego wyjechaliśmy, zobaczyliśmy kobietę na wózku inwalidzkim, która na środku drogi miotłą przeganiała kaczkę. Samochód był w takim szoku, że aż przystanął.

Współpraca Google z Departamentem Obrony nie przypadła do gustu samym pracownikom Google. 3 tysiące z nich podpisały petycję, domagającą się do Sundara Pitchaia, szefa Google, wycofania się z projektu. “Uważamy, że Google nie powinien zajmować się walką” – czytamy w petycji. Koncern uspokaja tłumacząc, że Pentagon i tak ma przecież dostęp do “otwartego oprogramowania rozpoznawania obrazów, z którego może korzystać każdy użytkownik Google Cloud”.

Najbardziej przerażający renifer świata

To zresztą byłby niepierwszy romans Google’a z wojskiem. W 2013 roku firma kupiła Boston Dynamics, producenta robotów. Kojarzycie z pewnością ich twory. Big Dog, Atlas czy Cheetah kiedyś należały do “floty” Google.

Firma miała nadzieję wykorzystać niesamowite możliwości robotów i stworzyć wielofunkcyjne roboty domowe. Ale mimo tego, że pies Boston Dynamics potrafi umyć szklankę, delikatnie ją przenieść i nie stłuc, to jednak Google odsprzedał firmę w 2017 przyznając, że nie udało im się zbudować rozwiązania, które mogłoby być wprowadzone na rynek. Niespecjalnie powinno nas to dziwić, roboty Boston Dynamics jedną nogą stoją w naszym świecie, a drugą w dolinie niesamowitości.

0
Zamknij

Choć staramy się je ograniczać, wykorzystujemy mechanizmy takie jak ciasteczka, które pozwalają naszym partnerom na śledzenie Twojego zachowania w sieci. Dowiedz się więcej.