Universal Paperclips – niepokojący eksperyment z OSI

Fot. thoughtinfection.com
Powstała gra przeglądarkowa, oparta o eksperyment myślowy szwedzkiego filozofa Nicka Bostroma. Koncept z 2003 roku pokazuje, jak bezkrytyczne przydzielenie zadania tzw. ogólnej sztucznej inteligencji (OSI) może skończyć się zagładą ludzkości.

Od razu uprzedzamy wszystkich, którzy spodziewają się oszałamiającej grafiki i efektów specjalnych. Nic z tego? Gra Universal Paperclips ma „spartański”, czysto tekstowy interfejs. Jednak nie oznacza to, że nie jest wciągająca.

O co chodzi w grze? Zacznijmy od źródeł, czyli eksperymentu zaproponowanego przez Nicka Bostroma. Wykazał on, w jaki sposób choćby jedna tzw. ogólna sztuczna inteligencja, nawet zaprojektowana w sposób kompetentny i bez zaszytych „złośliwych” poleceń, może skutecznie zgładzić ludzkość… produkując spinacze. Eksperyment Bostroma sugeruje, że pozornie nieszkodliwe wartości, założenia i cele stawiane sztucznej inteligencji mogą okazać się poważnym zagrożeniem.

Przykład produkcji spinaczy wydaje się trywialny, ale został wybrany celowo, ponieważ nie wytwarza obciążenia emocjonalnego, z jakim mielibyśmy do czynienia przy okazji np. poszukiwania przez algorytm lekarstwa na ciężką chorobę. Istnieje również niezwykle małe prawdopodobieństwo tego, że ludzkość kiedykolwiek zatrudni OSI do produkcji spinaczy. Niemniej eksperyment pokazuje, że cel nie ma tak naprawdę znaczenia – jeżeli tylko sztuczna inteligencja będzie do niego dążyć z żelazną, lub inaczej: maszynową, konsekwencją, jesteśmy w poważnych kłopotach. I nie chodzi o to, że stałaby się nam wroga. Po prostu dążąc do realizacji swoich celów, może zabrać nam zasoby potrzebne do przeżycia. Dobrze ujął to Eliezer Yudkowsky, amerykański badacz SI, który powiedział: „sztuczna inteligencja ani cię nie kocha, ani nie nienawidzi, ale jesteś zbudowany z atomów, których ona może potrzebować do realizacji swoich celów”.

Surowy interfejs gry „Universal Paperclips” (fot. CHIP)

Wróćmy do przebiegu samej gry. Zaczynamy z zerową automatyzacją. Musimy najpierw wytworzyć ręcznie trochę spinaczy i sprzedać je, by zyskać pieniądze i móc regulować cenę, aby z kolei kreować popyt na rynku, a także angażować fundusze w marketing. Na tym etapie nic nie zapowiada zagłady, ale w miarę rozgrywki coraz więcej działań toczy się automatycznie. Nie zdradzę, co jest później, ale gra ma interesujące zakończenie. Jakie? Sprawdźcie sami. | CHIP