Paradoksy, AI i zagłada – 30 lat “Terminatora 2”

Terminatora 2 widział każdy i napisano o nim chyba już wszystko. Niemniej, nie mógłbym sobie pozwolić na przemilczenie jubileuszu tak ważnego dzieła. Kultowy film Camerona to nie tylko historia kinematografii, ale przede wszystkim wielkie, wciąż aktualne ostrzeżenie dla ludzkości.

Premiera sławnego sequela nastąpiła na początku lipca 1991 roku. Byłem wtedy niemowlakiem, więc trudno mi sobie wyobrazić jakie emocje przeżywali fani wydanego siedem lat wcześniej, pierwszego Terminatora. Zapewne niemałe, bo James Cameron, aktorzy oraz specjaliści od efektów specjalnych dokonali niesamowitego skoku jakościowego. Nowa ścieżka dźwiękowa, trzymające w napięciu sceny akcji, ciągłe poczucie zagrożenia i oczywiście pesymistyczny, gęsty klimat.

Ale dość o samej sztuce filmowej. Przypominając sobie i wam Dzień sądu, chciałbym przede skupić się na niesionej przez niego treści. Konkretniej, rozważmy trzy kwestie, które świeżo po seansie nurtowały chyba każdego widza.

W pułapce czasu

Chciałbym poznać mojego ojca. I poznam jak będę miał jakieś 45 lat. Wyślę go w przeszłość, do 1984 roku. On się jeszcze nie urodził, aż dziw pomyśleć.

John Connor
Terminator 2

Pierwsza sprawa wynika raczej z potrzeby scenariusza niż ambitnego i celowego zamysłu reżysera. Przypomnijmy, że tytułowy bohater przybywa z niedalekiej przyszłości do roku 1995, aby strzec nastoletniego Johna Connora. Nieświadomy dzieciak stał się celem innego przybyłego z przyszłości terminatora – nowocześniejszego T-1000.

Dlaczego maszyny darzą taką atencją przeciętnego chłopaka z przedmieścia? Okazuje się, że już za kilka lat samoświadomy system Skynet wypowie wojnę swoim twórcom, a dojrzały John Connor stanie na czele ruchu oporu ludzi. Gdy maszyny wpadają na pomysł wysłania w przeszłość T-1000 – celem wyeliminowania głównego oponenta zawczasu  innego terminatora przeprogramowuje i wysyła za nim… dorosły Connor, pragnący uchronić samego siebie z dawnych lat.

Dotąd wszystko wydaje się w miarę klarowne. Dostajemy klasyczny paradoks czasowy. Ewentualne powodzenie T-1000 wywoła następujące skutki: John nigdy nie stanie na czele rebeliantów, nie będzie mógł wysłać terminatora dla swojej ochrony, ale jednocześnie zabraknie przyczyny, dla której Skynet miałby wysyłać w przeszłość.

Oś czasu uniwersum Terminatora

Jednak prawdziwe schody zaczynają się przy próbie skompilowania w logiczną całość obu pierwszych części filmu. Pamiętacie skąd w ogóle wziął się John? W 1984 roku Sarhę Connor odnajduje niejaki Kyle Reese, który analogicznie został przysłany z przyszłości, aby uchronić kobietę przed wysłanym przez maszyny T-800 (model, który w dwójce jest tym “dobrym”). Na razie sytuacja wydaje się bliźniacza, bo Kyle’a również wysłał sam John aby ustrzec swoją matkę. Rzecz w tym, że wybawiciel ludzkości zostaje spłodzony właśnie w tym czasie. Mówiąc wprost, dorosły Connor wysyłając w przeszłość żołnierza, czyni go swoim ojcem. Gdyby go nie oddelegował do zadania, nie powinien nigdy przyjść na świat, a zatem nie mógłby kierować ruchem oporu, wysłać w przeszłość swojego ojca (w części pierwszej), ani terminatora (dwójka). Mamy tu wyraźny kłopot z wyznaczeniem przyczyny i początku całej tej pętelki.

Sytuacja o tyle ciekawa, że zostawia miejsce na intelektualną gimnastykę i fanowskie teorie. Możemy np. przypuścić, że inicjatorem całej zabawy jest Kyle Reese, który mając dostęp do wehikułu czasu obmyślił plan “stworzenia” wielkiego przywódcy. Znajduje w ruinach zdjęcie i dane o Sarze, wybiera ją na matkę i cofa się w czasie aby spłodzić swego wodza. Dlaczego działa w tak pokrętny sposób? Dlaczego po prostu nie ostrzeże swoich przodków, że nadciąga zagłada? To jasne: natychmiast skończy w zakładzie psychiatrycznym.

Zamiast tego wybiera Sarę Connor, płodzi syna i przekazuje jej informacje oraz zadanie odpowiedniego wychowania Johna. Rzecz jasna to tylko pewna sugestia (jeśli macie własne: piszcie!), gdyż w rzeczywistości twórcy filmu prawdopodobnie nie przyłożyli większej uwagi do tego elementu. Po trosze wynikło to pewnie z faktu, że kręcąc pierwszego Terminatora, autorzy nie mieli pojęcia czy doczeka się on kontynuacji.

Zaprogramowani do autodestrukcji

Za parę miesięcy Dyson stworzy rewolucyjny mikroprocesor. Za trzy lata Cyberdyne będzie głównym dostawcą systemów komputerowych dla wojska. Bombowce Stealth będą sterowane przez komputery, nie przez ludzi. Będą uzyskiwały świetne wyniki. Senat przyzna fundusze na Skynet. System ruszy 4 sierpnia 1997 roku, będzie całkowicie samodzielny. Skynet zacznie się uczyć w postępie geometrycznym. Świadomość uzyska o 4 rano, 29 sierpnia. W panice spróbują go wyłączyć.

T-800

Tak w telegraficznym skrócie miały się potoczyć losy świata, według Terminatora 2. Jak na dłoni widać, że główna myśl przyświecająca produkcji, to ostrzeżenie przed sztuczną inteligencją. Cameron trochę się zagalopował, ustalając termin “końca świata” już na rok 1997, ale zapewne chciał w ten sposób bardziej wstrząsnąć widzami.

Tak czy inaczej, temat wydaje się z roku na rok coraz aktualniejszy, a wielkie dylematy czekają na uczonych tuż za rogiem. Wystarczy posłuchać z jakim respektem o sztucznej inteligencji wypowiadają się tuzy świata nauki i technologii. Bill Gates mówił jakiś czas temu, że tylko naiwniacy nie obawiają się nagłego wzrostu potęgi sztucznej super-inteligencji. Stephen Hawking twierdził na Reedicie, iż maszyny są od nas znacznie skuteczniejsze w realizacji celów, więc musimy dopilnować aby nigdy nie mogły takowych samodzielnie ustalać. Z kolei Elon Musk czy Max Tegmark od długiego czasu proponują stworzenie jakiegoś ciała, mającego kontrolować postępy w rozwoju AI.

Oczywiście, nawet najmądrzejsza głowa nie jest w stanie przewidzieć kiedy twór ludzkich rąk zyska świadomość (czy coś na jej kształt), ani czy w ogóle tego dojdzie. Być może maszyny nigdy nie staną przeciw nam i mamy do czynienia z nadwrażliwością naukowych wizjonerów. Terminator 2 daje nam jednak lekcję przezorności, bo katastrofa zazwyczaj nadchodzi znienacka. Kto wie czy odpowiednik filmowego Skynetu nie rodzi się na naszych oczach, a my nie zdajemy sobie z tego sprawy. Wciąż jesteśmy ignorantami, ledwo spekulującymi na temat definicji świadomości i ogólnych warunków do jej wytworzenia. Nie jesteśmy w stanie zagwarantować czy nie grozi nam tzw. zjawisko emergentne: wielka liczba powiązanych ze sobą niegroźnych komputerów (w przyszłości komputerów kwantowych) samoistnie dokona nieoczekiwanego skoku w wyższe stadium

Przebieg wydarzeń przedstawionych przez Camerona wydaje się jak najbardziej realistyczny. Gdyby system podobny do Skynetu nagle się “ocknął”, w naszej zinformatyzowanej rzeczywistości, bylibyśmy skazani na porażkę. Akcja Terminatora dzieje się w latach 90., dziś za sprawą sieci, byłoby znacznie gorzej. Cybernetyczny przeciwnik w mgnieniu oka zawładnąłby wszystkimi strategicznymi punktami: od energetyki, przez głowice nuklearne, po satelity komunikacyjne.

Należy jeszcze postawić sobie pytanie, czy maszyna potrzebuje świadomości żeby stanowić niebezpieczeństwo? Spójrzmy na scenariusz Dnia sądu. Sieć Skynet odpowiada za obsługę systemów wojskowych, w tym arsenału jądrowego Stanów Zjednoczonych. Kiedy Skynet wymyka się spod kontroli, spanikowani dowódcy rozkazują go wyłączyć. Tak naprawdę do kataklizmu mogłoby dojść bez udziału świadomości i perfidii sztucznego umysłu. Wystarczy wadliwy algorytm obronny, który pozwoliłby uznać za zagrożenie całą ludzkość. To chyba prawdopodobna opcja, wymagająca do swojego ziszczenia jedynie drobnych niedopatrzeń i zbytniego zaufania krzemowej inteligencji.

Ludzka maszyna

Patrzyłam jak John bawi się z maszyną i nagle mnie olśniło. Terminator nigdy nie ustanie, nigdy go nie opuści ani nie zrani. Nie będzie na niego krzyczał, nie upije się i nie będzie go bił. John miał wielu przybranych ojców, ale tylko ta maszyna spełniała wszystkie wymagania.

Sarah Connor

Czy superinteligentna maszyna może zrozumieć ludzkie uczucia? Czy wrażliwość pozostaje zarezerwowana wyłącznie dla ludzi? Czy sztuczna inteligencja jest w stanie działać w kategoriach zło-dobro? Klasyczne wątpliwości, których nie może zabraknąć w żadnym filmie z robotami, obecne są również w Terminatorze 2. Uczulam tu jednak na rozróżnienie problemów samoświadomości i uczuć. Jedno nie implikuje drugiego, czego najlepszym dowodem są osoby o zaburzeniach dyssocjalnych. Oglądając końcówkę filmu można odnieść wrażenie, że zdolny do nauki T-800 pojął istotę ludzkich łez – co w żadnym wypadku nie oznacza, że sam odczuwa podobne emocje.

Interesującą rzecz zauważył w jednej ze swoich książek Michio Kaku. Świat zachodni naznaczony popkulturowymi przykładami w stylu Terminatora, stał się znacznie ostrożniejszy w kwestii rozwoju AI, niż przodująca w sferze robotyki Japonia. Religia shintō głosi, że nawet maszyny mogą posiadać duszę, japońskie kreskówki są pełne przyjaznych androidów, a tamtejsze koncerny prześcigają się w produkcji humanoidalnych robotów. Azjaci podchodzą do sztucznej inteligencji z wielkim entuzjazmem, widząc w nich przede wszystkim wybawienie dla szybko starzejącego się społeczeństwa.

W naszej kulturze znacznie trudniej forsować akceptację dla myślącej maszyny i traktowanie jej jako istoty równej człowiekowi, czy nawet zwierzęciu. Lubimy być umieszczani w centrum wszechświata, czuć się wyjątkowi; z drugiej strony trudno nam wczuć się w rolę kreatora – potencjalnego twórcy rozumnej istoty. Gdzieś podskórnie czulibyśmy przekroczenie pewnej granicy arogancji, pychy, może nawet bluźnierstwa. Może z tego wynika zapobiegliwość i odgórne uprzedzenia.

Nie miejmy jednak złudzeń. Pewnych zmian nie da się jednak zatrzymać i jeśli nie Europejczycy, nie Amerykanie, to wyzwanie podejmie ktoś inny.

Buntownik, heretyk, uczony – recenzja “Galileusza” Mario Livio Jak nie meteoryt to zaraza – recenzja książki “Koniec świata” “Czy masz mnie za szaleńca?” – recenzja biografii Elona Muska