Making paperclips until the end of time is going to be your new obsession: https://t.co/pPMqrYi7Oc pic.twitter.com/2XDsROtJ5D
— Spotify for Podcasters (@forpodcasters) October 12, 2017
O co chodzi w grze? Zacznijmy od źródeł, czyli eksperymentu zaproponowanego przez Nicka Bostroma. Wykazał on, w jaki sposób choćby jedna tzw. ogólna sztuczna inteligencja, nawet zaprojektowana w sposób kompetentny i bez zaszytych “złośliwych” poleceń, może skutecznie zgładzić ludzkość… produkując spinacze. Eksperyment Bostroma sugeruje, że pozornie nieszkodliwe wartości, założenia i cele stawiane sztucznej inteligencji mogą okazać się poważnym zagrożeniem.
Przykład produkcji spinaczy wydaje się trywialny, ale został wybrany celowo, ponieważ nie wytwarza obciążenia emocjonalnego, z jakim mielibyśmy do czynienia przy okazji np. poszukiwania przez algorytm lekarstwa na ciężką chorobę. Istnieje również niezwykle małe prawdopodobieństwo tego, że ludzkość kiedykolwiek zatrudni OSI do produkcji spinaczy. Niemniej eksperyment pokazuje, że cel nie ma tak naprawdę znaczenia – jeżeli tylko sztuczna inteligencja będzie do niego dążyć z żelazną, lub inaczej: maszynową, konsekwencją, jesteśmy w poważnych kłopotach. I nie chodzi o to, że stałaby się nam wroga. Po prostu dążąc do realizacji swoich celów, może zabrać nam zasoby potrzebne do przeżycia. Dobrze ujął to Eliezer Yudkowsky, amerykański badacz SI, który powiedział: “sztuczna inteligencja ani cię nie kocha, ani nie nienawidzi, ale jesteś zbudowany z atomów, których ona może potrzebować do realizacji swoich celów”.
Wróćmy do przebiegu samej gry. Zaczynamy z zerową automatyzacją. Musimy najpierw wytworzyć ręcznie trochę spinaczy i sprzedać je, by zyskać pieniądze i móc regulować cenę, aby z kolei kreować popyt na rynku, a także angażować fundusze w marketing. Na tym etapie nic nie zapowiada zagłady, ale w miarę rozgrywki coraz więcej działań toczy się automatycznie. Nie zdradzę, co jest później, ale gra ma interesujące zakończenie. Jakie? Sprawdźcie sami. | CHIP