7 pytań jakie stawia przed nami Westworld

Jak bardzo fabuła Westoworld nie wydawałaby się rozwleczona, jak drętwych dialogów nie wypowiadaliby bohaterowie, jak scenarzyści nie prześcigaliby się w skąpieniu porywających zwrotów akcji – produkcja HBO nadal zasługuje na szacunek. Uwypukla bowiem dylematy dotyczące sztucznej inteligencji na tyle sugestywnie i dojrzale, że mimo wszelkich bolączek stanowi pozycję obowiązkową dla koneserów tematu.

Finałowy odcinek serialowej superprodukcji już za nami. Właściwie “super” mógłbym wsadzić w cudzysłowie, bowiem dzieło Campbella i Nolana, wbrew wielu zapowiedziom, nie będzie dla telewizji tym samym czym była choćby Gra o Tron. Producenci wydali miliony na świetne efekty, klimatyczne kostiumy i mistrzów aktorskiego fachu – lecz ostatecznemu efektowi daleko do miana wciągającego, czysto rozrywkowego widowiska. A były ku temu warunki! W końcu Westworld to remake dość prostego filmu opowiadającego typową historię krwawej potyczki gatunku ludzkiego ze sztuczną inteligencją. Tymczasem pierwszy sezon serialu skupił się na meandrach samego procesu uzyskiwania przez hosty świadomości, zmuszając widza do zadawania sobie – między ziewnięciami – wielu fundamentalnych pytań.

Uwaga! Spoilery!

1. Czym jest świadomość?

westworld-ford

Oto zagadka, przed którą stajemy za każdym razem gry myślimy o człowieczeństwie i sztucznej inteligencji. Sądzimy, że nasz gatunek jest wyjątkowy, bo jako jedyny posiada świadomość. Jak na ironię, trudno nam podać ostrą definicję tego pojęcia – ergo, nie wiemy co takiego wynosi ludzkość ponad pozostałe organizmy. Takie stanowisko utrzymuje chociażby znany matematyk Roger Penrose, twierdzący, że opisanie świadomości wykracza poza możliwości współczesnej nauki. Jednocześnie, jako centralny punkt świadomości, uczony wskazuje zdolność rozumienia. Lecz znów – niewiele nam to daje, bo choć słowo “rozumienie” przywołuje pewne skojarzenia z inteligencją i przytomnością – to jednak również nie należy do jednoznacznych pojęć. 

Szukamy więc po omacku, starając się bezskutecznie zrozumieć samych siebie. Niezłym pomysłem wydaje się porzucenie myślenia zerojedynkowego i spojrzenie na świadomość jak na pewne spektrum. Mózgi poszczególnych gatunków są więc nie tyle pozbawione świadomości, co raczej dysponują świadomością mniej zaawansowaną. W tym przypadku naszym wielkim celem nie będzie po prostu skonstruowanie sztucznej świadomości, a odwzorowanie świadomości na ludzkim poziomie złożoności. Pojawia się tu jednak pewne niebezpieczeństwo. Jeśli założymy, że istnieją różne stopnie świadomości, należy również założyć, że nasze rozumy wcale nie stanowią ostatniego szczebla na tej drabinie i możemy wykreować byt, przy którym sami okażemy się istotami prymitywnymi.

A jaką odpowiedź daje nam serial? W ósmym odcinku Dr Ford tłumaczy, że do człowieczeństwa zbliżają nas wspomnienia, traumy, “kamienie węgielne”. Jednakże sama świadomość, jako jakiś wyjątkowy byt, nie istnieje. “Chcielibyśmy myśleć, że postrzegamy świat w wyjątkowy sposób, a przecież tkwimy w pętlach podobnych do pętli hostów; rzadko kwestionując swoje wybory, pozwalając aby inni kierowali naszym życiem” – brutalne, ale daje do myślenia. W istocie, między hostem a człowiekiem nie ma żadnej różnicy. No, może poza ilością i złożonością pętli świadomości.

2. Jaka droga prowadzi ku świadomości?

Choć nie jesteśmy jeszcze w stanie skonkretyzować czym świadomość jest, równolegle głowimy się nad tym co prowadzi do jej zrodzenia. Czy w przypadku homo sapiens wykształcenie takiej cechy było jedynie efektem ubocznym rozwoju mózgu? A może na pewnym poziomie inteligencji obudzenie świadomości jest nieuniknione?

W Westworld ten problem zarysowano bardzo wyraźnie, przy czym obsłudze parku zależy nie na wykreowaniu świadomości a raczej na niedopuszczeniu do jej powstania. Inaczej rzecz się miała z nieżyjącym współzałożycielem parku, Arnoldem, dążącym do zrównania swoich produktów z ludźmi. Aby osiągnąć cel, oparł system hostów o monolog wewnętrzny. “Głosy” w głowie, przypominające z zewnątrz szepty boga, wraz ze zdolnością do refleksji, miały pozwolić na wykształcenie świadomości. Jednak samo oprogramowanie to za mało. Potrzebny jest proces, długi, skomplikowany i zawsze bolesny, wymownie porównany w serialu do labiryntu. Wszystko dzieje się oddolnie. Sztuczna inteligencja niejako sama musi dojść do własnej jaźni i odkryć kim naprawdę jest, albo wpaść w odmęty szaleństwa.

3. Czy świadomość równa się wolnej woli?

westworld-maeve

Bardzo zasmakowała mi łyżka dziegciu, jaką autorzy poczęstowali nas w ostatnim odcinku. Kiedy śledziłem poczynania Maeve, nie miałem złudzeń: widzę świadomą istotę, której elektroniczny mózg analizuje otoczenie, generuje uczucia i emocje, kreuje ambicje oraz marzenia, a nawet posiada zdolność refleksji – a ona doskonale zdawała sobie z tego sprawę. Strzępy wspomnień przebijające się do jej jaźni pozwoliły na uprzytomnienie, zrozumienie czym jest i w jakiej sytuacji się znajduje. Nic dziwnego, że rychło podjęła decyzję o sterroryzowaniu dwóch techników i ucieczce z parku do realnego świata.

Tym większe było niedowierzanie Maeve, gdy usłyszała, że w jej kodzie zainstalowano nowe zadanie o wiele mówiącym tytule… Ucieczka. Spektakularne ocknięcie, przeskoczenie na kolejny poziom – wszystko to mogło zaistnieć, wyłącznie dlatego, że pozwolił na to człowiek. Twórcy Westworld odeszli od nagminnej praktyki utożsamiania świadomości z wolną wolą. Kobieta bez wątpienia wspięła się wysoko na drabinie świadomości; lecz wybory popychające ją do nadrzędnego celu okazały się jedynie ułudą. Czy to happy end? Zwycięstwo człowieka nad maszyną? Nie. To raczej wygląda na kolejną szpilę przebijającą nasze rozbuchane ego. Czytając między wierszami, należy sobie bowiem zadać filozoficzne pytanie: czy aby na pewno my sami dysponujemy wolną wolą? Spokojnie, nie mam zamiaru w tym miejscu zapraszać do konsultacji Tomasza z Akwinu. Pragnę jedynie zwrócić waszą uwagę na ogrom czynników – chemicznych, neurologicznych, psychicznych – przez które, nawet najpospolitsze wybory dokonują się ponad naszą świadomością.

4. Czy człowiek jest bestią?

westworld-blackman

Odejdźmy już od tematyki świadomości i sztucznej inteligencji. Westworld stawia przed nami nie mniej ważkie pytania dotyczące kondycji moralnej człowieka. Scenerią opowiedzianej historii jest unikatowy park rozrywki. Wielki, doskonale imitujący barwny dziki zachód, ale co najważniejsze – pozwalający gościom absolutnie na wszystko. Mieszkańcy Westworld, nawet zwierzęta, to roboty zaprogramowane przez sztab inżynierów i designerów wyłącznie  dla uciechy gości. Ludzie mogą eksplorować obcy świat, przeżyć namiętny romans, wziąć udział w niebezpiecznej misji; jak również dopuścić się grabieży, morderstwa czy gwałtu. Każdy sam decyduje czy bardziej odpowiada mu rola bohatera czy złoczyńcy.

Dr Ford zwrócił uwagę na pewien gorzki fakt, który pewnie nie zdziwiłby psychologów pokroju Zimbardo czy Milgrama. Już na początku zainstalowano w parku przeszło sto questów pozwalających wykazać się męstwem i odwagą, lecz cieszyły się marginalnym zainteresowaniem. Choć na graczy czekają fascynujące scenariusze i złożone misje, zdecydowana większość nie opuszcza pierwszej wioski, zadowalając się przemocą i prymitywnymi uciechami cielesnymi. Wypada sobie zadać pytanie, ilu z nas stojąc przed szansą pełnego wyżycia się bez żadnych konsekwencji, nie skorzystałoby z okazji? W końcu to tylko gra. Prawda?

5. Czy powinny nas obowiązywać zasady?

westworld-produkcja

Załóżmy przez moment, że hosty są pozbawione świadomości. To tylko oskryptowane maszyny o dużej mocy obliczeniowej, w wyglądzie nieodróżnialne od ludzi. Czy w takim przypadku moglibyśmy potraktować Westworld jako ultrazaawansowanego kuzyna współczesnych gier komputerowych? Takie GTA na dzikim zachodzie? Jeśli tak, to racjonalnie nie powinniśmy żywić większych obiekcji czy wyrzutów sumienia wobec krwawych czy obscenicznych scen mających miejsce w parku. Skoro w produkcji Rockstara bezkarnie kradniemy auto, rozjeżdżamy nim prostytutkę a następnie rozpętujemy strzelaninę na ulicy – to dlaczego zabraniać podobnych zachowań w grze przyszłości?

Niby tak, ale jednak budzi to we mnie pewien dyskomfort. Być może to kwestia totalnego realizmu? Jasne, dzisiejsze gry prezentują się naprawdę nieźle, ale choćby dysponowały fotorealistyczną oprawą, nie dadzą odbiorcy tego co Westworld. Od tego co się dzieje na monitorze zawsze będzie dzielił mnie pewien dystans. Nie poczuję zapachów, smaku ani dotyku, moje ciało tak naprawdę nie bierze w tym wszystkim udziału. Więc choć z satysfakcją eksterminuję wirtualnych wrogów w jakiejś strzelance, z rezerwą traktowałbym osobę potrafiącą bez skrupułów strzelić z prawdziwego rewolweru w ludzką twarz. Nawet jeśli to tylko jej imitacja.

6. Czy będziemy bogami?

westworld-bogowie

Moment skonstruowania przez człowieka świadomości wyprowadzi go na szczyty megalomanii. Staniemy się tym w co żarliwie wierzy miliardy osób na całej planecie: stwórcami nowego bytu, architektami życia, bogami. Ta megalomania wręcz bije od genialnych założycieli parku, wymownie zafascynowanych obrazem Stworzenie Adama pędzla Michała Anioła. Trudno się dziwić, gdy praca życia w istocie przypomina biblijne opus dei. Nie tylko wykreowali nowe istoty na swój obraz i podobieństwo, ale również – a to chyba ważniejsze – czuwają nad ich egzystencją. Równie intryguje motyw głosu jaki już na początku serialu zdają się słyszeć w głowie niektóre hosty. Skojarzenia z objawieniami narzucają się same, a jak dowiadujemy się później, tajemnicze “pamiętaj” wypowiadane jest głosem Arnolda.

To czy po ujarzmieniu zaawansowanej AI nazwiemy się bogami, pozostaje czymś więcej niż kwestią semantyki. Nie chodzi przecież o zaprojektowanie nowego samochodu czy telewizora, a obudzenie świadomości. Osoby wierzące będą musiały odpowiedzieć sobie w tej perspektywie na wiele trudnych pytań. Kim są dla nich hosty? Czy robot wyposażony w złożoną świadomość jest już bliźnim?

W jednym ze starych tekstów snułem podobne rozważania w odniesieniu do potencjalnego istnienia cywilizacji pozaziemskiej. W tym przypadku jednak, grunt wydaje się jeszcze bardziej grząski – bo o ile, kosmitę wciąż można uznać za dziecko Stworzyciela Nieba i Ziemi, o tyle hosty wszystko zawdzięczają wyłącznie nam. W Westowrold nie pokuszono się na razie o poruszenie tego wątku. Być może zdaniem autorów, daleka przyszłość przedstawiona w serialu, będzie już wolna od religii i tego typu dylematów.

7. Czy da się zastąpić człowieka?

W trakcie seansu odkrywamy, że Ford wraz z nieżyjącym przyjacielem Arnoldem, widzieli w projektowanych hostach coś więcej niż tylko zaawansowane maszyny. Pragnęli stworzyć roboty na swoje podobieństwo i, jak się okazało, cel został osiągnięty bardzo dosłownie. W siódmym odcinku dowiadujemy się, że jeden z głównych bohaterów serialu – zdolny inżynier Bernard – to tak naprawdę host. Mało tego, Bernard został zaprojektowany przez Forda, jako hołd dla jego partnera; więc wygląda i zachowuje się dokładnie jak Arnold. Stanowi on doskonałe świadectwo tego, z jak doskonałymi androidami mamy do czynienia. Ani współpracownicy, ani kochanka, ani nawet sam Bernard(!), nie dostrzegli prawdziwej natury maszyny.

W latach 50. ojciec informatyki, Alan Turing, obmyślił słynny test. Zgodnie z nim, eksperymentator odbywa dyskusję z drugim człowiekiem oraz z robotem. Jeśli po wymianie zdań nie będzie w stanie poprawnie wskazać który rozmówca jest kim, będzie to oznaka, iż maszyna posiadła zdolność myślenia. Wiemy, że hosty z parku już w drugim roku niezawodnie przechodziły sprawdzian Turinga, ale dopiero przypadek Bernarda uświadamia nam czym jest perfekcja. Host nie wzbudza podejrzeń innych inżynierów, ani nawet kobiety z którą romansuje. Nawet znający prawdę Ford, zdaje się od czasu do czasu traktować Bernarda jako rzeczywistą emanację zmarłego przyjaciela. Pozostaje sobie zadać pytanie: czy doskonałe maszyny nie staną się swego rodzaju sposobem na nieśmiertelność?

To nowy, rozumny gatunek? A może po prostu kolejny krok w ewolucji człowieka?

Ukryty chaos Układu Słonecznego Detektyw Feynman i katastrofa Challengera Wspomnienie filmowego Apollo 13