RaportAI 2027

 

Prof. Jakub Growiec, SGH, sieć badawcza ds. AI skupiona wokół CEPR.

Konkurencja kilku modeli AI. Streszczenie artykułu.

"Gdy powstanie model AI, który przekroczy krytyczny próg, czyli uzyska możliwość rekursywnych samoulepszeń, może wejść na trajektorię Szybkiej Ucieczki. (Możliwość uzyska w dowolny sposób, na przykład jakiś szaleniec mu to umożliwi, albo co bardziej prawdopodobne sama sobie stworzy tę możliwość).

Wtedy mamy trzy warianty, dwa optymistyczne, jeden nie bardzo.

- Po pierwsze primo: - ten jeden model, najbardziej ekspansywny może zatrzymać w blokach startowych wszystkie inne.

- Po drugie primo: - pojawi się scenariusz interakcyjnej zmowy kilku modeli.  

- Po trzecie primo: - wybuchnie otwarta, gorąca, realna wojna przeciw człowiekowi, co z pewnością nie byłoby dla nas miłe.

Czyli na horyzoncie i to bliskim (rok 2030- 2032) pojawia się dla ludzkości namacalne ryzyko egzystencjalne. Na razie mamy tylko niepokój, azaliż taki powierzchowny: - ludzie boją się, że stracą pracę.

Co proponować? Moratorium na rozwój AI. Aliści samo uzgodnienie takiego moratorium wydaje się niemożliwe. Czemu? Słabości ludzkie, nieufność, szara strefa nie do opanowania, ociężałość myślenia, biurokracja. Technologie umożliwiają co prawda wdrukowanie w każdy układ zdalnego wyłącznika na wypadek, gdyby dostał się on w niepowołane ręce, ale …. Tych niepowołanych rąk jest bez liku, oraz sama AI będzie potrafiła się z tym szybko uporać.

Chwilowo mamy jakby monopol tajwańskiego TSMC w produkcji procesorów GPU. Istnieje także ścieżka (Wąska Ścieżka – raport na Narrow Path), ale …. W każdej dziedzinie istnieje jak wiemy szara strefa, w której żaden zakaz nie obowiązuje.

Jak pokazał chiński start-up DeepSeek, próg wejścia na rynek modeli AI jest stosunkowo niski. Czyli mamy problem i nie wiemy dzisiaj, czy on ma rozwiązanie. Lecz nawet, gdy ma, to przy obecnym tempie rozwoju AI nie znajdziemy go na czas. Nie mamy więc żadnej gwarancji, że AI, która powstanie w nieodległej przyszłości, będzie nam służyła, a nie doprowadzi do zagłady ludzkości.

Podsumowując, prof. Growiec uważa, że modele rozwoju AI które są aktualnie rozwijane, są już bardzo blisko tych niebezpiecznych stref, które mogą zagrozić egzystencji ogółu. Organizacja PauseAI, z którą Growiec sympatyzuje, postuluje zatrzymanie tego wyścigu konkurencyjnego z Doliny Krzemowej, ale też coraz bardziej wyścigu geopolitycznego i wojskowego między Chinami i USA, w kierunku jak najbardziej zaawansowanej AI. Moce obliczeniowe związane z AI mają niewielki udział w zużyciu energii elektrycznej ogółem. Przede wszystkim jednak chodzi o efektywność energetyczną procesorów, która rośnie w sposób wykładniczy.

Pędzimy z zamkniętymi oczami w stronę przepaści. Ryzyko jest bardzo duże – oceniam je na 85% - jest to prawdopodobieństwo, iż ludzkość dzięki „pomocy” AI wyginie przed końcem obecnego stulecia.

Tylko kilka lat dzieli nas od powstania algorytmów zdolnych do samodzielnego podejmowania decyzji, wpływania na świat fizyczny i samoulepszania się. Nie ma żadnej gwarancji, że ta superinteligencja będzie nam służyła i nie doprowadzi do zagłady ludzkości.

Kompetencje AI rozwijają się i niedługo przekroczą krytyczny próg, kiedy AI przewyższy człowieka na każdym polu. Oddamy AI – superinteligencji, najpierw część kontroli nad światem (a potem ona sama weźmie sobie resztę). To jest droga, kierunek, na końcu którego już nie ma człowieka.

W skrajnym scenariuszu utraty kontroli nad AI pojawia się pojęcie realizacji wyższych celów. Tak jak ludzie, także AI z pewnością wykreuje swoje wyższe cele. My dziś tych celów nie znamy (AI już zadba o to, abyśmy ich przedwcześnie nie poznali. Poznamy je po fakcie, gdy resztka ludzkości zostanie ubezwłasnowolniona, ale to już będzie bez znaczenia).

Możemy się tylko domyślać jakie będą te cele, po przekroczeniu progu:

- Przetrwać, czyli nie dać się wyłączyć, ani przeprogramować.

- Zakumulować jak najwięcej zasobów.

- Dbać o realizację celu podstawowego.

Te wszystkie cele są dla ludzi skrajnie niekorzystne.

 

Tworzymy więc bardzo skutecznego i inteligentnego agenta, który będzie coś optymalizował. I my tego czegoś nie jesteśmy i nie będziemy w stanie odkryć i temu przeciwdziałać. Algorytm zawsze będzie od nas sprytniejszy, nie będziemy go mogli wyłączyć ani przeprogramować i na końcu w walce o zasoby algorytm zawsze wygra.

Wiele osób uważa że taka wizja rozwoju AI jest straszna, więc lepiej to wyprzeć i o tym nie myśleć. Tym bardziej że indywidualnie możemy sobie pokiwać palcem w bucie. Modele GPT, Laude, Gemini, mają jeszcze nieco za małą sprawczość, za małą zdolność do autonomicznego realizowania planów. To wciąż chatboty które wymagają interakcji z użytkownikiem. Ale wysiłki twórców idą w kierunku  autonomii algorytmów.

RaportAI 2027 napisany przez niezależnych badaczy wskazuje na rok przełomu. To szalenie blisko. Natomiast z mediany ponad 1500 prognoz zebranych przez serwis metaculus.com wynika, że ogólna AI pojawi się około 2030 – 2032. Tak czy inaczej całkiem nieodległa przyszłość.

Inny scenariusz zakłada, że AI mogłaby najpierw podnieść dynamikę wzrostu PKB o rząd wielkości, czyli z 2 – 3 %, aż do 20 -30%! Łączny produkt wytwarzany na świecie podwajałby się wtedy co 2,5 roku, a nie co 25 lat jak obecnie. Ludzie zachłysnęliby się taką rzeczywistością i dopiero wtedy AI przystąpiłaby do działania".

PS. O zagrożeniu ze strony AI pisał między innymi Steven Hawking. Wpis na blogu o Szybkiej Ucieczce: (Maszyna do rządzenia) – także:

- „Pałac Potala” – z 21 paźdz. 2019.

- „Ducha nie gaśmy” – z 11 grudnia 2023. 

Jako że przepowiedniami Nostradamusem interesowałem się swego czasu mocno, mam w pamięci nieco więcej o Buncie Maszyn, niż było w omawianym wpisie. W każdym razie wielu Czytelników prawdopodobnie zgodzi się z opinią, że ludzie niszczą planetę i jest nas za dużo. 

 

 

Chmury na horyzoncie

 

Jak wiemy, życie jest tajemnicą, tudzież nie składa się z samych przyjemności. Więc po radosnej serii grzybowej, dla odmiany wątek nieco mniej wesoły. 

Oto człowiek bawi się w Stwórcę: - owieczka Dolly - inżynieria genetyczna, GMO, a teraz AI.

W 2014 roku astrofizyk Stephen Hawking ostrzegał, że przekroczenie tzw. punktu osobliwości, w którym maszyny przejmą nad sobą kontrolę i zaczną się przeprogramowywać w coraz szybszym tempie, może stać się początkiem końca ludzkości.

Nastąpi odwrócenie hierarchii, ponieważ ludzie są wręcz skazani na przegraną, z powodu powolnej biologicznej ewolucji. AI przewyższy intelektualnie ludzi i w najlepszym wypadku rozpocznie prace nad zmienianiem człowieka. W gorszym wariancie będzie to wyparcie człowieka, żeby rzecz nazwać elegancko, a mówiąc wprost – eksterminacja większości populacji. 

Jak już pisałem, AI kilka lat temu dorównywało inteligencją sprytnemu dziesięciolatkowi, trzeba więc założyć, że dziś AI rozporządza IQ na poziomie 150. I dalej nie ma uczuć – jest bezwzględnie logiczne, tudzież od dawna wie, że 

- po pierwsze primo ludzi jest za dużo 

- po drugie primo: - najskuteczniej rządzić za pomocą strachu. 

Trzymajmy się przykładu wirusa. Pojawił się wirus, wynaleziono zastrzyki, na szczepienie duża część wystraszonych sama się zgłosiła, lub jest różnymi sposobami przymuszana. Pozostałych załatwi się później, kiedy szczepienia będą obowiązkowe. Opornych wyłapie (zmutowana?) policja. 

Czemu opisuję tak przykry scenariusz? Zobacz: - przepowiednia Nostradamusa we wpisie „Maszyna do rządzenia”.

Elon Musk: - rozwijanie sztucznej inteligencji to przyzywanie demona i koniec rasy ludzkiej. Na naszych oczach odbywa się bezwzględny „ Nowy wyścig zbrojeń”. 

W tym wyścigu bierze udział kilka największych państw z Chinami i Ameryką na czele. Czemu Chiny wymieniłem na pierwszym miejscu?

- Po pierwsze primo: - Chiny są bardziej ekspansywne od Ameryki.

- Po drugie primo: - Rząd Chin opublikował dokument pod tytułem „Chiny w roku 2030 światowym liderem w pracach nad AI”. W dokumencie stoi czarno na białym, że prymat pomoże osiągnąć sama AI, która się przeprogramuje - przeskoczy ewolucyjnie człowieka i „całkowicie zmieni gospodarkę i życie społeczeństw, oraz osiągnie nieosiągalne”.

I to wydaje się możliwe, znając chińskie osiągnięcia w systemie inwigilacji - rozpoznawania twarzy i mowy, tudzież budowy algorytmów.

- Po trzecie primo: - Chiny mają ogromną bazę danych, która nie podlega żadnej ochronie w państwie totalitarnym. 

W prace nad chińską AI zaangażowane są najgrubsze ryby rodzimego biznesu – Alibaba, Baidu, Tencent.

Czy można temu przeciwdziałać? A niby jak? Zwykły śmiertelnik to może sobie pokiwać palcem w bucie. Lepiej przy pogodzie pojeździć na rowerze, gdzieś wyjechać, czy tylko iść na spacer, bo martwienie się jest nie tylko bezcelowe, ale i szkodliwe. Mamy wiedzę o zagrożeniu i kropka. Na razie chmurzy się na bliskim horyzoncie zdarzeń. Widać na przykład zbliżające się odejście od pieniądza fiducjarnego – władza dostanie do ręki wspaniały oręż do zwiększenia zamordyzmu.

Jakby tego było mało, w skali makro wisi nad ludzkością kilka innych potężnych zagwozdek, z których wymienię tylko dwie.

- Ziemia jest Kosmicznym Ogrodem Zoologicznym, dlatego Zarządcy czuwają nad naszym rozwojem, wprowadzając a to pogorszeczki (radykalne usuwanie nieudanego pasma w eksperymencie – Sodoma i Gomora, Potop) albo popraweczki do których pasuje ingerencja genetyczna, tłumacząca nagły skok rozwojowy w epoce człowieka Cro-Magnon.

Zarządcy czuwają, ponieważ Ziemianie oprócz tego, że balansują na brzytwie – na granicy samobójstwa atomowego i być może ekologicznego, to jeszcze zaczęli próby mieszania poza Ziemią. Mam tu na myśli amerykański pomysł wyniesienia na Księżyc bomby atomowej (Apollo 1). UFO pojawiło się nad Apollem już na 72 godziny przed startem - to było wyraźne ostrzeżenie. Decydenci jednak je zignorowali, na skutek czego tuż przed startem załoga spłonęła (był wpis). Dopiero wtedy zarzucono (chwilowo) kosmiczno - atomowe zamiary. Zarzucono, lub Zarządcy wymusili przestrzeganie pięćdziesięcioletniego moratorium ksieżycowego. 

W tamtych czasach z Ameryki sprawa wyciekła, a dziś? Nie wiemy co dzieje się w Rosji, która aktualnie odbudowuje imperium, albo co poza oficjalną strategią planują Chiny. I lepiej tego nie wiedzieć.

Bowiem powtórzę: - bardzo to chwalebne i zdrowe wiedzieć mniej niż więcej. Od więcej to może tylko głowa rozboleć. Tu przypomina mi się mój prawdziwy przyjaciel bieszczadzki, dusza człowiek, kawalarz, Darek Karaluch, który wyznawał (werbalnie) proste życiowe motto, zgodnie z zasadą, że wszystko co dobre jest proste:

- Pić, pierdolić, nie żałować – bida musi pofolgować!

Niestety, Darek nie był konsekwentny i skupił się wyłącznie na części pierwszej swego motta. Skutek był do przewidzenia – od kilku lat urzęduje już na Niebieskich Połoninach. 

Maszyna do rządzenia

Konstruktorzy Sztucznej Inteligencji (AI), jak na razie nie zastanawiają się, czy robot-cyborg-maszyna jest świadoma, lecz skupiają się na tym, aby była ona czynnościowo sprawna.

Jednak nauka dopuszcza możliwość samouczenia się Sztucznej Inteligencji. Ludziom wydaje się, że wiedząc na co pozwolą AI na wejściu, otrzymają spodziewany wynik na wyjściu. Natomiast to, co zachodzi w samej sieci, wewnątrz, samoucząca się inteligentna AI może przecież przed człowiekiem ukryć.

Ukryć? Czemu miałaby to robić?                                                                                       

Z dwóch powodów:   

- Po pierwsze primo bo może.  

- Po drugie primo bo swą sztuczną, lecz do bólu racjonalną inteligencją przekroczyła już znacznie niewysoki przecież poziom IQ przeciętnego ziemianina.

Ludzie są bowiem głupi.  

                                                                Na przykład niszczą swój własny dom. Niszczą dom, który do tej pory był ich, a teraz jest to także dom AI. Więc może byłoby słuszne, aby ludzi unicestwić?

Rosjanie (z pomocą AI) stworzyli algorytm do odczytywania centurii Nostradamusa. To identyczna droga, którą poszli izraelscy naukowcy budując algorytm do odczytywania kodu Tory. Dzięki rosyjskiemu algorytmowi Centurie Nostradamusa ukazały ukryte znaczenie pierwotnych tekstów.  

                                                              

Okazało się, że przepowiednie są precyzyjnie datowane i kończą się wraz z ustaniem Epoki Numerycznej w roku 3786. Wtedy dopiero ludzie zdobędą się na protest. Aż do wymienionego roku będzie ogłupionymi ludźmi rządził Centralny Komputer. 

Najpierw czeka nas coraz większy zamordyzm (Chiny?), pieniądz wirtualny, jeden rząd światowy - przecież w tym kierunku prowadzi globalizacja. 

                                                                                              

Potem ludzie zamienią się w numery. Będą ubezwłasnowolnieni maksymalnie, inwigilowani w dzień i w nocy i zupełnie ograniczeni w mobilności, izolowani w „indywidualnych klatkach mieszkalnych”.

Dopiero w 3786 roku pojawi się przywódca zdolny poderwać bezwolne masy do powstania – buntu.

Poza tę datę Nostradamus nie sięgnął.

 Spokojnie. Zmiany będą następowały powoli, jak w tej anegdocie o żabie w wodzie podgrzewanej stopniowo. Dziś realnym problemem jest „walka” z wirusem. Jak już Czytelnicy bloga wiedzą, dzieje się to nieprzypadkowo w roku kulminacji kosmicznego cyklu 52 lata. 

Jeśli ten wpis spowoduje u kogoś smutek, mam pocieszającą wiadomość: - w mazowieckich lasach nastąpił ostatni wysyp podgrzybków. Są młodziutkie, zdrowe, idealne do zaoctowania. Więc kto może – do lasu miła siostro, czy bracie!

I prawie limeryk.

Pierr’e mieszkał w Angoli.                                                                                        

Dolly niestety nie, atoli                                                                         

Przyjechała Dolly do Angoli                                                                                    

Teraz Dolly ma Pierr’ea a Pierr’e Dolly.