piątek, 8 grudnia 2023

Kontrola nad SI

Część trzecia.


 Bill Joy urodził się w 1957 roku. Nauczył się czytać w wieku trzech lat. W domu się nudził, dlatego ojciec zaprowadził go do podstawówki, gdzie mały Bill wgramolił się na kolana dyrektora i przeczytał mu bajkę z książeczki. Wprawił tym swoim występem dyrektora w tak wielki podziw, że został bez wahań przyjęty do szkoły. Rodzice odetchnęli, bowiem mieli teraz, gdy mały był w szkole, chwile oddechu, ponieważ Joy zadawał codziennie mnóstwo pytań, czym doprowadzał dorosłych do szaleństwa. W trakcie nauki szkolnej, dzieciak jeszcze przeskoczył jedną klasę.

      Jednocześnie dużo czytał, interesował się teleskopami i krótkofalówką. Większość wolnego czasu spędzał samotnie w piwnicy ze słuchawkami na uszach. „Już wtedy byłem dość aspołeczny” – wspomina. Na swój maturalny bal w ogóle nie poszedł.

      Zamiast bliskich przyjaciół miał wielkich pisarzy snujących wizje o przyszłości. Wspomina „Wkładaj kombinezon i w drogę” - Roberta Heinleina, oraz „Ja robot” – Isaaca Asimova. Natomiast w czwartkowe wieczory, kiedy rodzice udawali się do kręgielni akurat nadawano oryginalną serię Star Treka, którą traktował jak widok w przyszłość, pełen przygód w wykonaniu kosmicznych bohaterów, przestrzegających nakazów moralnych spisanych w kodeksie Pierwsza Dyrektywa.

      „Prawo każdego rozumnego gatunku do życia w zgodzie z jego właściwą ewolucją kulturalną uważamy za święte, dlatego też nikomu z personelu Gwiezdnej Floty nie wolno ingerować w prawidłowy rozwój obcego życia i kultury. Za ingerencje uważa się przekazanie zaawansowanej wiedzy, siły lub technologii światu, którego społeczność nie jest w stanie mądrze z takimi korzyściami postąpić. Personelowi nie wolno także złamać Pierwszej Dyrektywy nawet dla ratowania życia i/lub pojazdu kosmicznego, chyba że działanie takie ma na celu naprawę skutków wcześniejszych naruszeń Dyrektywy, lub przypadkowego zanieczyszczenia wymienionej kultury. Niniejsza Dyrektywa stanowi nadrzędne prawo i najwyższe moralne zobowiązanie”.

 

      Bardzo mnie to zafascynowało – wspomina Joy - że w przyszłości dominują ludzie kierujący się moralnością, a nie roboty i tę wizję przyjąłem jako własną. A teraz, w scenariuszu piekielnym pojawia się możliwość, że Ziemianie już dziś złamali Pierwsza Dyrektywę.

     Szesnastoletni Joy studiuje matematykę na University of Michigan i tam odkrywa  fascynujący świat komputerów. Po krótkim czasie podejmuje pracę jako programista pierwszych superkomputerów. Odkrywa niewiarygodną zdolność tych urządzeń do symulowania zjawisk rzeczywistych. Podczas studiów doktoranckich spędza długie nocne godziny w pracowni komputerowej Berkeley na wymyślaniu nowych światów. Wspomina, że program wręcz sam prosił się o napisanie.

     Oto Michał Anioł sportretowany przez Irvinga Stone’a w powieści „Udręka i ekstaza” czuł, że jedynie uwalnia z kamienia posąg (Pietę) odłupując wszystko to co zbędne.

Joy czuł się podobnie ekstatycznie przy tworzeniu programów. Wyglądało to tak, jakby prawda i piękno tkwiły w maszynie od zawsze, czekając aż ktoś je wydobędzie na wolność. Nieprzespana noc była jedynie niewielką ceną za te niezapomniane chwile „ekstazy odkrywania”.

Dziś znaczną część Sieci tworzy sprzęt firmy Sun, a opracowane przez Joya procesory RISC stanowiły do niedawna podstawę wielomiliardowego rynku serwerów.

     Punktem zwrotnym w karierze Billa było poznanie słynnego wynalazcy Raya Kurzweila. Obaj wygłaszali referaty na sesjach Telecosm Conference – w owym czasie najważniejszego zlotu maniaków komputerowych na świecie. Finansiści dysponujący górami pieniędzy przybywali całymi stadami, aby z nabożnym zachwytem spijać wiedzę z ust cyfrowych wizjonerów. Na takim spotkaniu Joy po raz pierwszy usłyszał przepowiednie Kurzweila o komputerach, które zastąpią ludzi na następnym etapie ewolucji. Do tej pory tezę, że maszyny kiedyś osiągną poziom ludzkiej świadomości uważał za niedorzeczną, jednak argumenty Kurzweila były nie do odparcia. Kurzweil forsował scenariusz rajski, a Joy dostrzegł możliwość zaistnienia rzeczywistości odwrotnej, zgodnie z zasadą dualizmu góra-dół. Krzywa zmian może w swym lustrzanym odbiciu zaprowadzić nas albo do raju, albo prosto do piekła. Jak już pisałem, rzecz wyłożył w eseju „Dlaczego przyszłość nas nie potrzebuje”.

       Czytając później maszynopis „Spiritual machines”, znalazł w nim zacytowany przez Kurzweila fragment z prognozami innego autora:

         „Na początek przyjmijmy, że specjalistom komputerowym uda się stworzyć maszyny tak inteligentne, iż będą one wykonywać wszystkie czynności lepiej niż ludzie. W takim wypadku cała praca będzie prawdopodobnie wykonywana przez ogromne, wysokowyspecjalizowane maszyny, a nawet całe systemy maszyn, więc ludzki wysiłek stanie się zbędny i pojawią się dwie możliwości.

    Maszynom pozwoli się na podejmowanie suwerennych decyzji bez nadzoru człowieka.

    Albo ludzka kontrola zostanie utrzymana.

Jeśli maszynom zezwoli się na podejmowanie samodzielnych decyzji, nie sposób przewidzieć rezultatów, ponieważ nie wiadomo, jak owe maszyny mogą się zachować. Wskazujemy tylko, że los ludzki będzie spoczywał w gestii maszyn. Można argumentować, że rodzaj ludzki nigdy nie byłby na tyle głupi, by oddać całą władzę maszynom. Jednakże nie sugerujemy, że człowiek zrobi to świadomie, czy też padnie ofiarą przejęcia władzy przez maszyny. Sugerujemy, że człowiek łatwo mógłby pozwolić na doprowadzenie do takiej zależności od maszyn, że nie miałby właściwie żadnego wyboru, jak tylko zaakceptować ich decyzje. W miarę, jak społeczeństwo i trapiące je problemy stawać się będą coraz bardziej złożone, a maszyny coraz inteligentniejsze, ludzie oddadzą większą część decyzji do uznania maszyn, gdyż będą one sobie radziły lepiej niż człowiek.

     Ostatecznie może nastąpić moment, kiedy decyzje konieczne dla utrzymania systemu staną się tak złożone, że istoty ludzkie nie będą zdolne ich zrozumieć. W takiej chwili maszyny przejmą pełną kontrolę, ponieważ ludzie nie będą w stanie ich wyłączyć, gdyż uzależnienie będzie już tak zaawansowane, że równałoby się to samobójstwu.

    

Z drugiej strony możliwe jest, że kontrola nad maszynami zostanie utrzymana. W takim przypadku przeciętny człowiek będzie mógł sprawować kontrolę nad niektórymi ze swoich urządzeń, takimi jak samochód czy komputer osobisty, lecz kontrola nad dużymi systemami urządzeń spoczywać będzie w rękach wąskiej grupy – elity. Dalej będzie niemal identycznie, jak dzisiaj, jednak z dwiema różnicami.

     W wyniku udoskonalonych technik elita uzyska większą kontrolę nad masami, a ponieważ ludzka praca nie będzie już potrzebna, masy staną się zbędnym, bezużytecznym ciężarem dla systemu, jeżeli elita będzie bezwzględna, może po prostu zdecydować się na eksterminację ogromnej części ludzkości.

Jeżeli elita będzie humanitarna, może użyć propagandy, lub innych psychologicznych bądź biologicznych technik w celu redukowania liczby urodzeń, aż do wymarcia ludzkości, pozostawiając świat wyłącznie członkom elity. Jeżeli elita składać się będzie z liberałów o miękkich sercach, może zdecydować się na odgrywanie roli dobrego pasterza wobec pozostałej części gatunku ludzkiego. Będzie im się wydawało, że potrzeby fizyczne każdego zostały zaspokojone. Wszystkie dzieci dorastają w odpowiednich psychologicznie warunkach, każdy ma swoje hobby, które go zajmuje, a ewentualni niezadowoleni przechodzą „leczenie” eliminujące ich „problem”.

Oczywiście życie będzie tak puste, niedające satysfakcji i pozbawione celu, że ludzie będą musieli zostać poddani biologicznej bądź psychologicznej ingerencji usuwającej potrzebę poczucia mocy, lub przekształcającej ją w jakąś nieszkodliwą namiastkę. Tak przystosowane istoty mogą czuć się w owym społeczeństwie szczęśliwe, lecz z całą pewnością nie będą wolne. Zostaną zredukowane do statusu zwierząt domowych”.

 

       Bill Joy przypomina sobie, z jakim niepokojem czytał te słowa. Kiedy jednak przewrócił stronę, doznał szoku!

Jego niepokój wynikający z czytania powyższego fragmentu zmienił się w ciarki wędrujące po plecach. Oto okazało się, że właśnie czytał urywek z Manifestu Unabombera Theodore’a Kaczyńskiego. (Był wpis o tym wybitnym matematyku, a w czerwcu 2023 podano, że Unabomber umarł w więzieniu).

      Dla Joya Ted Kaczyński był typem godnym pogardy, ponieważ przez siedemnaście lat w kampanii terroru konstruował bomby, które zabiły trzy osoby spośród elit, a raniły wiele innych. Od jednej z takich bomb ucierpiał przyjaciel Joya, David Gelernter, genialny i wizjonerski informatyk tamtych czasów. Także sam Joy, jak i cała grupa jego kolegów czuli, że mogą stać się następnym celem na liście. Nie ulegało wątpliwości, że Kaczyński był luddystą, jednak waga jego argumentów była porażająca.

     Joy pisze: - „z wielką niechęcią, ale jednak musiałem zgodzić się z wywodem Teda Kaczyńskiego. Musiałem stawić temu czoło”.

To niesamowite, w jakim stopniu scenariusz piekielny Joya jest odwrotnym, zwierciadlanym odbiciem rajskiej prognozy Kurzweila i pokrywa się z Manifestem Unabombera Kaczyńskiego.

    Podstawą obu scenariuszy Niebo – Piekło jest krzywa zmian – perspektywa oszałamiającego rozwoju urządzeń przetwarzających informacje dzięki GRIN (Genetyka, robotyka, nanotechnika itd.)

Obliczenia, które na zwykłym komputerze zajęłyby czas równy wiekowi wszechświata, na komputerze kwantowym będą trwały sekundę. Postęp będzie wykładniczy” – mówił Joy.

     Kiedy ukazała się książka Dexlera o możliwościach nanotechnologii, Joy dosłownie pochłonął jej treść, a w roku 1989 wygłosił referat na pierwszym zjeździe Foresight Institute założonego przez Dexlera.

Zarówno Kurzweil, jak i Joy wyszli od tych samych założeń, jednak różnią się diametralnie co do skutków, które niosą one dla przyszłości.

  Na temat bariery uranu Bill mówi tak: „ Jeśli milionowi ludzi damy do ręki bomby A, czy jest możliwe , aby któryś z nich z niej nie skorzystał?”.

Od opublikowania "Dlaczego przyszłość nas nie potrzebuje?” pesymizm Joya jeszcze się pogłębił. Gdy tylko artykuł ten ukazał się w Wired, nowojorscy wydawcy oferowali mu wielką kasę za rozwinięcie tematu w książkę. Niektórzy autorzy rzuciliby się na okazję, by podszlifować gotowy tekst i nieco go uzupełnić do objętości, która usprawiedliwiałaby przewidywaną wówczas cenę 25 dolarów. Prawa kapitalistycznego rynku są bezwzględne – myśli się o wszystkich aspektach, choć produktu jeszcze nie ma.

      Joy był nieugięty. Nie dlatego, że miał i tak boski nadmiar pieniędzy, ale z powodu upodobania do reguły „ jeśli coś robię, ma to być zrobione dobrze, albo wcale”. I zabrał się do pisania książki. Lata płyną, a książki wciąż nie ma, chociaż Joy intensywnie nad nią pracuje. Zmienia kolejne wersje, uzupełnia dowody. W swoim domu ma już kilka pokoi zapełnionych materiałami zgromadzonymi do jej napisania.

    Za nim są już opracowane trzy wersje robocze, atoli rozwój wydarzeń wciąż go wyprzedza, przez co gotowy materiał traci na aktualności.

       Początkowo zamierzał jedynie odeprzeć ewentualne zarzuty o czarnowidztwo. Jego asystent zbierał wiec argumenty na rzecz tezy, że nie brakuje ludzi złych do szpiku kości, gotowych realizować swoje chore pomysły na zabicie wielkich ilości współplemieńców.

Jak wiemy, najbardziej zaskakujące scenariusze pisze samo życie.

CDN

Brak komentarzy:

Prześlij komentarz