RaportAI 2027

 

Prof. Jakub Growiec, SGH, sieć badawcza ds. AI skupiona wokół CEPR.

Konkurencja kilku modeli AI. Streszczenie artykułu.

"Gdy powstanie model AI, który przekroczy krytyczny próg, czyli uzyska możliwość rekursywnych samoulepszeń, może wejść na trajektorię Szybkiej Ucieczki. (Możliwość uzyska w dowolny sposób, na przykład jakiś szaleniec mu to umożliwi, albo co bardziej prawdopodobne sama sobie stworzy tę możliwość).

Wtedy mamy trzy warianty, dwa optymistyczne, jeden nie bardzo.

- Po pierwsze primo: - ten jeden model, najbardziej ekspansywny może zatrzymać w blokach startowych wszystkie inne.

- Po drugie primo: - pojawi się scenariusz interakcyjnej zmowy kilku modeli.  

- Po trzecie primo: - wybuchnie otwarta, gorąca, realna wojna przeciw człowiekowi, co z pewnością nie byłoby dla nas miłe.

Czyli na horyzoncie i to bliskim (rok 2030- 2032) pojawia się dla ludzkości namacalne ryzyko egzystencjalne. Na razie mamy tylko niepokój, azaliż taki powierzchowny: - ludzie boją się, że stracą pracę.

Co proponować? Moratorium na rozwój AI. Aliści samo uzgodnienie takiego moratorium wydaje się niemożliwe. Czemu? Słabości ludzkie, nieufność, szara strefa nie do opanowania, ociężałość myślenia, biurokracja. Technologie umożliwiają co prawda wdrukowanie w każdy układ zdalnego wyłącznika na wypadek, gdyby dostał się on w niepowołane ręce, ale …. Tych niepowołanych rąk jest bez liku, oraz sama AI będzie potrafiła się z tym szybko uporać.

Chwilowo mamy jakby monopol tajwańskiego TSMC w produkcji procesorów GPU. Istnieje także ścieżka (Wąska Ścieżka – raport na Narrow Path), ale …. W każdej dziedzinie istnieje jak wiemy szara strefa, w której żaden zakaz nie obowiązuje.

Jak pokazał chiński start-up DeepSeek, próg wejścia na rynek modeli AI jest stosunkowo niski. Czyli mamy problem i nie wiemy dzisiaj, czy on ma rozwiązanie. Lecz nawet, gdy ma, to przy obecnym tempie rozwoju AI nie znajdziemy go na czas. Nie mamy więc żadnej gwarancji, że AI, która powstanie w nieodległej przyszłości, będzie nam służyła, a nie doprowadzi do zagłady ludzkości.

Podsumowując, prof. Growiec uważa, że modele rozwoju AI które są aktualnie rozwijane, są już bardzo blisko tych niebezpiecznych stref, które mogą zagrozić egzystencji ogółu. Organizacja PauseAI, z którą Growiec sympatyzuje, postuluje zatrzymanie tego wyścigu konkurencyjnego z Doliny Krzemowej, ale też coraz bardziej wyścigu geopolitycznego i wojskowego między Chinami i USA, w kierunku jak najbardziej zaawansowanej AI. Moce obliczeniowe związane z AI mają niewielki udział w zużyciu energii elektrycznej ogółem. Przede wszystkim jednak chodzi o efektywność energetyczną procesorów, która rośnie w sposób wykładniczy.

Pędzimy z zamkniętymi oczami w stronę przepaści. Ryzyko jest bardzo duże – oceniam je na 85% - jest to prawdopodobieństwo, iż ludzkość dzięki „pomocy” AI wyginie przed końcem obecnego stulecia.

Tylko kilka lat dzieli nas od powstania algorytmów zdolnych do samodzielnego podejmowania decyzji, wpływania na świat fizyczny i samoulepszania się. Nie ma żadnej gwarancji, że ta superinteligencja będzie nam służyła i nie doprowadzi do zagłady ludzkości.

Kompetencje AI rozwijają się i niedługo przekroczą krytyczny próg, kiedy AI przewyższy człowieka na każdym polu. Oddamy AI – superinteligencji, najpierw część kontroli nad światem (a potem ona sama weźmie sobie resztę). To jest droga, kierunek, na końcu którego już nie ma człowieka.

W skrajnym scenariuszu utraty kontroli nad AI pojawia się pojęcie realizacji wyższych celów. Tak jak ludzie, także AI z pewnością wykreuje swoje wyższe cele. My dziś tych celów nie znamy (AI już zadba o to, abyśmy ich przedwcześnie nie poznali. Poznamy je po fakcie, gdy resztka ludzkości zostanie ubezwłasnowolniona, ale to już będzie bez znaczenia).

Możemy się tylko domyślać jakie będą te cele, po przekroczeniu progu:

- Przetrwać, czyli nie dać się wyłączyć, ani przeprogramować.

- Zakumulować jak najwięcej zasobów.

- Dbać o realizację celu podstawowego.

Te wszystkie cele są dla ludzi skrajnie niekorzystne.

 

Tworzymy więc bardzo skutecznego i inteligentnego agenta, który będzie coś optymalizował. I my tego czegoś nie jesteśmy i nie będziemy w stanie odkryć i temu przeciwdziałać. Algorytm zawsze będzie od nas sprytniejszy, nie będziemy go mogli wyłączyć ani przeprogramować i na końcu w walce o zasoby algorytm zawsze wygra.

Wiele osób uważa że taka wizja rozwoju AI jest straszna, więc lepiej to wyprzeć i o tym nie myśleć. Tym bardziej że indywidualnie możemy sobie pokiwać palcem w bucie. Modele GPT, Laude, Gemini, mają jeszcze nieco za małą sprawczość, za małą zdolność do autonomicznego realizowania planów. To wciąż chatboty które wymagają interakcji z użytkownikiem. Ale wysiłki twórców idą w kierunku  autonomii algorytmów.

RaportAI 2027 napisany przez niezależnych badaczy wskazuje na rok przełomu. To szalenie blisko. Natomiast z mediany ponad 1500 prognoz zebranych przez serwis metaculus.com wynika, że ogólna AI pojawi się około 2030 – 2032. Tak czy inaczej całkiem nieodległa przyszłość.

Inny scenariusz zakłada, że AI mogłaby najpierw podnieść dynamikę wzrostu PKB o rząd wielkości, czyli z 2 – 3 %, aż do 20 -30%! Łączny produkt wytwarzany na świecie podwajałby się wtedy co 2,5 roku, a nie co 25 lat jak obecnie. Ludzie zachłysnęliby się taką rzeczywistością i dopiero wtedy AI przystąpiłaby do działania".

PS. O zagrożeniu ze strony AI pisał między innymi Steven Hawking. Wpis na blogu o Szybkiej Ucieczce: (Maszyna do rządzenia) – także:

- „Pałac Potala” – z 21 paźdz. 2019.

- „Ducha nie gaśmy” – z 11 grudnia 2023. 

Jako że przepowiedniami Nostradamusem interesowałem się swego czasu mocno, mam w pamięci nieco więcej o Buncie Maszyn, niż było w omawianym wpisie. W każdym razie wielu Czytelników prawdopodobnie zgodzi się z opinią, że ludzie niszczą planetę i jest nas za dużo. 

 

 

Wir Całkowitego Zrozumienia

Po południu woziłem taczką pocięte drewno.
Lubię wozić drewno taczką.....
Potem układałem pocięte.drewno.
Lubię układać drewno......

Już nadchodził zmierzch, kiedy przerwałem pracę i zabrałem się za ceremonię upichcenia smakowitego jedzonka i niespieszną konsumpcję połączoną z mlaskaniem - ale dobre! Ale dobre! 
Tymczasem zapadła bieszczadzka noc.
Wychodzę z chałupy i ..... otwieram usta z zachwytu!
Nade mną otwarła się głębia kosmosu!
Nic dziwnego - wszak jesteśmy w Parku Gwiezdnego Nieba, więc nie ma świetlnego smogu.

Fotografia tego co nad głową to jedynie namiastka.

Ach! Ciekawe jak tam jest, wśród tego srebrnego piasku gwiazd....
Czyli zamarzyły mi się podróże kosmiczne. 
Jednak wiem, ile niebezpieczeństw czyha na człowieka w przestrzeni kosmicznej, a więc lepiej pomarzyć o podróżach w czasie.

Kiedy w młodości po raz pierwszy obejrzałem film „Wehikuł czasu”, rozbudziła się wyobraźnia. Pomyślałem: - to niby bajka, ale może kiedyś rzeczywiście będziemy mogli w ten sposób podróżować?

         Jeszcze w latach siedemdziesiątych nauka uważała możliwość takich podróży za nonsens.

Jedynie kilku śmiałków odważyło się sugerować, że równania Einsteina nie wykluczają podróży w czasie.

       Stopniowo w zachowawczym myśleniu naukowców zachodziła ewolucja. Zawsze do ewolucji w myśleniu impuls dają jednostki wybitne.

Tak było i tym razem. Pojawili się Paul Davies, Kip Thorne i Stephen Hawking.

         Pojawili się i zaczęli zadawać niewygodne pytania o naturę czasoprzestrzeni i na przykład o możliwość, czy podróżnik w czasie wstecz mógłby zostać własnym dziadkiem.

Albo: - co by się stało, gdyby taki podróżnik zastrzelił własnego dziadka, zanim ten spłodziłby ojca podróżnika?

Zmieniło się podejście nauki do problemu i dziś dyskutuje się o środkach, które są niezbędne dla realizacji takich podróży.

Oto wirują potężne cylindry zbudowane z materii neutronowej, takiej samej jak materia pulsarów. Ta materia jest tak gęsta, że jedna jej łyżeczka waży tyle, co lotniskowiec.

          W bezpiecznej odległości wirują oswojone czarne dziury, zaparkowane tak, aby nie rozerwać podróżnika na strzępy.

Podróżnik ma na głowie hełm chroniący przed zawrotem głowy, lub nawet możliwością złapania głupawki w chwili załamania przyczynowości, która towarzyszy nagiej osobliwości.

       Fizycy starają się wymyślić sposób takiego skonstruowania tunelu czasoprzestrzennego, aby łączył „gdziekolwiek” z „kiedykolwiek”.

Wyzwanie jest poważne, ponieważ mówi się o mocy równej milionowi galaktyk, o potrzebie ściśnięcia obiektu wielkości Jowisza (Jowisz jest 345 razy większy od Ziemi) do rozmiaru walizki.

Inni naukowcy dywagują na temat – Big Crunch (Wielkiego Kolapsu, Chrupnięcia, Kresu, Zgniotu).

Otóż grawitacja, wszechobecna i najbardziej wytrwała ze wszystkich sił przyrody, ostatecznie przezwycięży ciągłą ekspansję wszechświata.

       W pewnej odległej przyszłości Wielki Wybuch straci swój impet.

Galaktyki będą się oddalać od siebie coraz wolniej, po czym – jakby pod wpływem elastycznej smyczy – zatrzymają się na moment, a następnie ruszą z powrotem, przyspieszając stopniowo.

W końcu nastąpi spektakularna kulminacja w Wielkim Crunch!

Ach i Och!

W pewnym momencie niebo zapłonie od światła miliarda słońc.

Być może tak będzie.

Jednak inna grupa astronomów uważa, że do takiego sylwestrowego końca nie dojdzie, bo wszechświat jest za lekki, aby tak widowiskowo mógł zatrzymać swoją ekspansję.

Uważają oni, że końcowi wszechświata będzie towarzyszył jedynie cichnący poświst.....

        W końcu czasu wypali się paliwo nuklearne gwiazd i nastąpi kryzys energii.

W pewnym momencie zgaśnie ostatnie światło.

Wszechświat będzie nadal wypełniony materią, lecz nic nie będzie świecić – zapanuje całkowita ciemność.

Zapanuje ciemna i smętna Wieczność.

Wraz z ostatnim przebłyskiem światła, da jednak o sobie znać Wir Całkowitego Zrozumienia, w którym każda istota rozumna (Oczywiście o ile takowa wtedy się znajdzie) zobaczy całą nieskończoną i niewyobrażalną wielkość wszechświata i gdzieś na niej maleńki znaczek – nanokropkę, która powie: - „jesteś tutaj”.

         

Wszechświat jest nie tylko dziwniejszy, niż nasze wyobrażenia o nim. On jest dziwniejszy, niż to, co potrafimy sobie wyobrazić.

        Dziwne jest nawet to, że on istnieje.

A jeszcze dziwniejszym jest to, że istnieją w nim takie istoty jak my, które zajmują się podobnymi problemami.

W każdym razie wszechświat jest bardzo niebezpieczny, o wiele bezpieczniej jest na Ziemi, która w jakiś dziwny sposób jest doskonale dostrojona do życia.

         Niektórzy węszą w tym prawdopodobny podstęp.

Azaliż mogą mieć rację i te cieplarniane warunki na Ziemi stworzył Bóg, który robi sobie żarty naszym kosztem.

Jeżeli tak jest, to chyba należą się nam jakieś przeprosiny?