Problem, który poddano rozważaniu jest współczesną odmianą starego dylematu etycznego zwanego dylematem wagonika (trolley problem). Polega on na wyobrażeniu sobie następującej sytuacji: wagonik kolejki wyrwał się spod kontroli i pędzi w dół po torach. Na jego drodze znajduje się pięć osób przywiązanych do torów przez szalonego filozofa. Ale możesz przestawić zwrotnicę i w ten sposób skierować wagonik na drugi tor, do którego przywiązany jest jeden człowiek. Co powinieneś zrobić?Badanie “Moral Machine” poszło jednak o krok dalej. Osoby, które miały być potencjalnym celem pojazdu były przedstawione w sposób mniej anonimowy niż w oryginalnym dylemacie, a i sam scenariusz uległ przeobrażeniu. Czy pojazd powinien poświęcić swoich pasażerów w zderzeniu z nieruchomym obiektem, czy raczej najechać na pieszych? A jeśli już ma ominąć obiekt (kosztem pieszych, naturalnie) to kogo powinien uderzyć? Wybór jest ciekawy. Odnoszącą sukcesy osobę ze świata biznesu? Znanego przestępcę? Grupę starszych ludzi? Stado krów? Pieszych, którzy przechodzili przez ulicę, gdy kazano im czekać?
Dylemat wagonika został wykorzystany w jednym z odcinków serialu “Good Place” emitowanym na Netflixie:
https://www.youtube.com/watch?v=JWb_svTrcOg
Wyniki, uzyskane na podstawie 40 milionów decyzji sugerują, że ludzie wolą ratować ludzi, a nie zwierzęta, oszczędzić jak najwięcej istnień i skłonni są do uratowania młodszych osób. Zaobserwowano też mniej wyraziste tendencje do oszczędzenia życia kobiet ponad mężczyznami, ratowania osób zamożniejszych kosztem biedniejszych i oszczędzania raczej pieszych niż pasażerów.
Wiek i religia nie wpływają na poglądy
Około 490 000 osób odpytanych o moralne dylematy wypełniło także ankietę demograficzną zawierającą ich wiek, płeć i poglądy religijne. Naukowcy stwierdzili, że te cechy nie mają “znaczącego wpływu” na decyzje podejmowane przez ludzi.
Badacze odkryli natomiast pewne różnice kulturowe w podejmowanych decyzjach. Mieszkańcy Francji oceniali ogólną liczbę osób, które zginęłyby w wypadku, podczas gdy respondenci z Japonii przykładali do tego mniejszą wagę. Naukowcy podkreślają, że “Moral Machine” nie mogło spełnić wszystkich złożoności dylematów samochodów autonomicznych. Mają jednak nadzieję, że “Maszyna Moralna” zainicjuje globalną dyskusję o decyzjach moralnych, jakich będą musiały dokonywać samochody przyszłości.
“Nigdy w historii ludzkości nie pozwoliliśmy, aby maszyna w sposób autonomiczny decydowała, kto powinien żyć, a kto powinien umrzeć, w ułamku sekundy, bez nadzoru w czasie rzeczywistym” – napisali w podsumowaniu analizy naukowcy z MIT. “Zanim pozwolimy naszym samochodom podejmować etyczne decyzje, musimy przeprowadzić globalną dyskusję, aby pokazać nasze preferencje firmom, które opracują algorytmy, oraz decydentom, którzy będą je regulować prawnie”.
Trudno wyobrazić sobie sytuację, w której zasady, jakimi kierować się będzie SI nie będą uregulowane odgórnie. W przeciwnym razie producenci zaczną walczyć o miano najbezpieczniejszego (dla pasażerów) auta autonomicznego, co z kolei może prowadzić do powstania samochodów, które będą podejmowały wyjątkowo krwawe w skutkach decyzje, byleby tylko ocalić pasażerów.
Otwarta pozostaje też kwestia wartościowania ludzkiego życia, będąca przedmiotem badania. Nietrudno wyobrazić sobie sytuację, w której, bez odpowiednich regulacji, producenci zaczną oferować “konto premium” dla SI sprzedawanych pojazdów. Jeśli będzie odpowiednio drogie może prowadzić do zachowania za wszelką cenę odpowiednio bogatych osób. Dylematów jest znacznie więcej, a wyobrażenie sobie choćby kilku prowadzi do dosyć smutnego wniosku. Nadal jesteśmy na początku drogi do prawdziwie autonomicznych, ale i bezpiecznych, samochodów. Gdybyście mieli ochotę sprawdzić, jakie decyzje wy podjęlibyście kierując rozpędzonym wagonikiem, znaleźliśmy dla was internetowy quiz. | CHIP