Jeżeli stworzymy sztuczną inteligencję, to w toku rozwoju technologii może ona stanąć wyżej od ludzkiej. Po co to cywilizacji, skoro według Pana za jej stworzeniem musi iść utworzenie obszarów pewnej wolności, która nie da się ujarzmić? Przeciwnie – dysponuje konieczną autonomią, chce zrywać więzy i prze ku wolności, jak maszyny dr Diagorasa. Sztuczna inteligencja może więc być niebezpieczna?
Stanisław Lem:
Tak, to prawda, ale z drugiej strony żyjemy przecież w czasach, w których ludzie obdarzeni zupełnie naturalną inteligencją – terroryści, hackerzy itd. – robią rzeczy potworne, porywają ludzi, włamują się elektronicznie do miejsc, z których można wywołać wręcz III wojnę światową. Nie wydaje mi się, żebyśmy mieli spodziewać się straszliwych rzeczy po sztucznej inteligencji, tym bardziej, że jest prawdopodobne, że tę inteligencję można będzie trzymać w pewnych ryzach. Zwłaszcza, że jak już wspomniałem musi ona zostać poddana swoistej “edukacji” – to wtedy największym kłopotem będzie ustalenie granic, co ona może robić, a co nie. Ale to już kłopot, który bardziej będą tworzyć ludzie niż ich twór.
CHIP:
W wywiadzie do tygodnika “Der Spiegel” stwierdził Pan: “Antymaterii obawiam się mniej niż Internetu”. Dlaczego?
Stanisław Lem: :
Internet powinien ulec pewnego rodzaju specjalizacji, chociażby po to by nie zamulać i tak już wielkiego szumu informacyjnego. Tak naprawdę moje obawy biorą się stąd, że pociąg ludzi do zła ujawnia się szczególnie tam, gdzie pojawia się nowa technologia. Tam także pojawiają się możliwości złego. Chociażby z powodu nie istniejącego lub spóźnionego ustawodawstwa.
CHIP:
W przedmowie do “Golema” (1973) przewidział Pan już nie tylko nadejście Internetu, ale i to, że stworzy on jeden za drugim sztuczne gatunki ewoluujące w Sieci. Czy ta prognoza też się sprawdzi?
Stanisław Lem: :
Na razie nie. Gdybym miał napisać opowiadanie fantastyczne, to mógłbym oczywiście napisać, że kiedy by się, że tak powiem, pogłowie komputerów na kuli ziemskiej powiększyło do miliarda, to one by się w nocy zmówiły i zaczęły wszystkie ze sobą współpracować jak neurony. I kula ziemska stałaby się jak gdyby korą mózgu, zupełnie nie interesującą się ludźmi, użytkownikami komputerów. To jest czysta fantazja. Ale co do “gatunków ewoluujących w Sieci”, to wystarczy się przyjrzeć wirusom komputerowym – spełniają wszystkie warunki, by je tak nazwać.
CHIP:
W 1963 roku przepowiadał Pan podłączenie wszystkich zmysłów do komputera, który będzie człowieka zanurzał w fikcyjnej rzeczywistości. Rzeczywistość wirtualna, czy jak Pan woli fantomatyzacja, weszła już do codziennego słownika. Czy to znaczy, że istnieje faktycznie?
Stanisław Lem: :
Problemem jest istnienie PRAWDZIWEJ fantomatyzacji dostępnej dla każdego. Jak wiadomo, nie potrzebna jest indywidualna osobowościowa charakterys-tyka widza w telewizji czy w kinie. Każdy może wejść i oglądać. Natomiast gdyby ktoś chciał, że tak powiem, żeby opakowanie wirtualną rzeczywistością, której on dostąpi, było dopasowane do jego indywidualnych życzeń – ja chcę być Napoleonem, kochankiem Kleopatry, czy Bóg wie czym – to wtedy musi być dla niego program specjalnie wykoncypowany. I tu dochodzimy do problemu kosztów w stosunku do masowości pragnień. Tu licznikiem jest indywidualne żądanie, zaś mianownikiem niestety (niebagatelny) koszt.
CHIP:
W wirtualnej rzeczywistości upatruje Pan spore zagrożenie od psychologicznego, poprzez społeczne, aż po moralne. Co nam grozi z tej strony? Zwątpienie w realną rzeczywistość? Ludzie sprowadzeni jedynie do mózgów odbierających wrażenia? Czy też zbrodniarze w więzieniach, przeżywający po raz nieskończony swoje zbrodnie w – tym razem bezkarnej – wirtualnej rzeczywistości?
Stanisław Lem: :
Przede wszystkim problemem istotnym jest to, że nawet gdyby się udało stworzyć taką wirtualną rzeczywistość imitującą doskonale tę prawdziwą, to jednak wirtualną kiełbasą jeszcze się nikt nie najadł, a jeść od czasu do czasu trzeba. To jest pewien problem, w tej chwili niebagatelny. To jest też tak jak wtedy, gdy nie istniały samoloty, to nikt się nie martwił o spadochrony. Ten problem będzie postawiony, że tak powiem, w następnej fazie rozwoju. Nawet nie potrafię powiedzieć, jak prędko.
CHIP:
Napisał Pan: “Technologia jest niezależną zmienną naszej cywilizacji: jej rozpędzonego wehikułu NIC, prócz globalnej zagłady, nie powstrzyma. Jej ruch NIE zależy w istocie od naszych intencji i nadziei, ani od naszych wysiłków”. Wygląda na to, że cywilizacja rozpętała żywioł, nad którym nie może zapanować. Od czego więc może zależeć jej rozwój i dokąd on prowadzi?
Stanisław Lem: :
Trzeba sobie uzmysłowić, że ewolucja życia trwała, jakby nie było, 4 miliardy lat na Ziemi. Cztery miliardy lat to jest kawałek czasu, którego my nie możemy wyobraźnią ogarnąć. I perfekcja, którą uzyskały najprostsze organizmy w zwalczaniu przeciwności środowiskowych jest nieprawdopodobna i przewyższa wszystkie uzdolnienia wszystkich farmaceutów, genetyków i inżynierów. Dlatego wysyłam takie hasło, żeby się uczyć u natury, na miłość boską, i żebyśmy starali się przejąć jej metody działania. Do tego trzeba jeszcze zrozumieć, że jesteśmy strasznie maleńkimi mróweczkami łażącymi po powierzchni maleńkiej planety, krążącej wokół Słońca. I dlatego, że już mamy Internet i że są komputery którejś tam generacji, już mamy w głowach przewrócone. Jesteśmy na początku drogi.