Pisał Pan kiedyś, że we wszechświecie marnuje się mnóstwo energii, bo wygląda na to, że żadna cywilizacja w pełni nie eksploatuje dostępnych gwiazd. Nazywa Pan to „astronomicznym marnotrawstwem” i sugeruje, że ludzkość mogłaby w przyszłości temu zaradzić.
Zgadza się. Co sekundę marnują się astronomiczne ilości energii potencjalnej i innych kosmicznych zasobów. Uważam, że warto byłoby zrobić z tym coś dobrego.
Twierdzi Pan jednak, że wyruszenie w gwiazdy i kolonizacja innych planet nie powinny być dla nas priorytetem. Dlaczego?
Mamy na razie jeszcze ważniejsze zadanie, a mianowicie zagwarantować, że faktycznie do tych gwiazd dotrzemy. Ze względu na samą długowieczność takich astronomicznych obiektów mniejsze ma znaczenie, czy stanie się to za 100 czy za 1000 lat, niż fakt, że w końcu się to uda. Uważam więc, że o ile wychodzimy od przyjętej wizji wszechświata i pewnych popularnych przesłanek moralnych, to powinniśmy przyjąć zasadę MaxiPOK, która głosi, że trzeba maksymalizować prawdopodobieństwo OK rezultatu, a więc uniknąć egzystencjalnej katastrofy, w końcu skolonizować wszechświat i wykorzystać dostępną energię w dobrym celu.
A więc co myśli Pan o ludziach takich jak Elon Musk, którzy chcieliby szybszej kolonizacji kosmosu, a przynajmniej naszego Układu Słonecznego?
Elon uważa pewnie, że jest to sposób na obniżenie ryzyka egzystencjalnego. Jeśli staniemy się gatunkiem międzyplanetarnym, będzie mniej prawdopodobne, że jakaś katastrofa położy kres całej ludzkiej cywilizacji. A więc nie chodzi mu o to, że powierzchnia Marsa się marnuje, ale że obecnie jako ludzkość stawiamy wszystko na jedną kartę, a byłoby dobrze postawić chociaż na dwie.
Na przykład poprzez budowę kolonii na Marsie.
Właśnie. Uważam jednak, że mamy pilniejsze zadania. Przypuszczam, że kluczowe egzystencjalne zagrożenia pojawią się, zanim będziemy mieli okazję na założenie samowystarczalnych kolonii na Marsie. Co więcej, nie sądzę, żeby taka kolonia miała pomóc nam uporać się np. z zagrożeniami, które niesie sztuczna inteligencja. Inteligentne roboty mogłyby polecieć na Marsa równie dobrze jak my. Kolonia na innej planecie dałaby nam większe szanse na przetrwanie niektórych egzystencjalnych zagrożeń, np. związanych z asteroidami i kometami, ale wielu z nich łatwiej można by zaradzić tutaj, na Ziemi, przez tańsze rozwiązania, choćby budowanie większej liczby umocnionych schronów.
Ostatnio sugerował Pan, że postęp technologiczny jest podobny do losowania z urny, zawierającej korzystne kule białe, szare kule o mieszanych skutkach, ale także apokaliptyczne kule czarne. Czemu mielibyśmy przyjąć taką hipotezę?
Czarna kula to technologia lub idea, której domyślnym skutkiem jest zniszczenie cywilizacji, jaka ją odkryje. Nie wydaje się wykluczone, że wśród wszystkich możliwych idei i technologii jest przynajmniej jedna czarna kula.
W przeszłości mogło się wydawać, że czarną kulą okaże się broń jądrowa. Szczęśliwym zbiegiem okoliczności brakowało jej jednej szczególnej cechy – łatwości wytwarzania. Broń jądrowa wymaga wysoko wzbogaconego uranu lub plutonu. Nie ma łatwego sposobu, żeby uwolnić energię atomu na dużą skalę. Możemy sobie wyobrazić, co by było, gdyby broń jądrową można było zrobić tak łatwo jak czekoladowy pudding z mikrofalówki. Demokratyzacja dostępności do broni masowej zagłady byłaby najpewniej końcem ludzkiej cywilizacji. Przez większość ludzkiej historii nie mieliśmy o takim zagrożeniu żadnego pojęcia. Czy był to ostatni taki przypadek? Wygląda na to, że sięgając do urny biotechnologii, nanotechnologii i sztucznej inteligencji, możemy mieć pecha i trafić na technologię, która sprawi, że narzędzia masowej zagłady staną się łatwo dostępne.
W Pana książce na ten temat sztuczna inteligencja okazuje się potencjalną czarną kulą, bo istnieje ryzyko, że maszyny w końcu osiągną superinteligencję – a więc poziom rozwoju dużo wyższy od naszego – lecz nie uda nam się im przekazać ludzkiego systemu wartości. Czy dalej Pan tak myśli?
Podstawowe idee w tej książce wciąż wydają mi się słuszne. Przy czym oprócz scenariuszy, w których pojedyncza sztuczna inteligencja staje się bardzo potężna, ale pozostaje nieskalibrowana z naszymi wartościami, pisałem też o scenariuszach wielobiegunowych, gdzie złe skutki wynikają z konkurencji między różnymi sztucznymi inteligencjami lub inteligentnymi systemami.
Gdy wydałem Superinteligencję w 2014 r., właściwie nikt nie pracował nad problemem skalibrowania sztucznej inteligencji. Od tego czasu nastąpił duży wzrost liczby badaczy i ośrodków. Kluczowe laboratoria pracujące nad sztuczną inteligencją, takie jak DeepMind i OpenAI, stworzyły zespoły ds. bezpieczeństwa sztucznej inteligencji, podobnie jak niektóre ośrodki akademickie, takie jak nasz oksfordzki Future of Humanity Institute.
Był to też czas dużego postępu technicznego w dziedzinie samej AI.
Oczywiście. Postęp jest dużo szybszy, niż się tego spodziewaliśmy, a rewolucja uczenia głębokiego idzie pełną parą do przodu. Daje nam to jaśniejszy obraz potencjalnych ścieżek do superinteligencji, a zarazem jaśniejszy obraz architektury, którą przyjmą wczesne superinteligentne systemy. Żeby lepiej je sobie wyobrazić, możemy pomyśleć o większych wersjach systemów obecnych. Daje to też konkretny cel badaczom, którzy pracują nad problemem kalibracji sztucznej inteligencji.
Czy ogólnie rzecz biorąc, jest Pan bardziej optymistyczny, jeśli chodzi o sztuczną inteligencję niż kiedyś?
Raczej nie. Jestem bardziej optymistyczny, jeśli chodzi o ilość pracy intelektualnej włożonej w rozwiązywanie tego problemu. Jest jej więcej, niż było, i więcej, niż można się było spodziewać w tym okresie.
Uważam też, że przejście do świata sztucznej inteligencji nastąpi prędzej czy później. Byłoby błędem starać się temu zapobiec albo nawet za długo z tym zwlekać.
Powinniśmy wziąć się w garść, dopóki możemy, jednak w którymś momencie trzeba będzie po prostu trzymać kciuki i liczyć na dobry obrót sprawy. Wiąże się z tym pewne ryzyko, którego skalę trudno jest dziś oszacować.
Przyjmijmy, że jest w urnie technologii czarna kula. Wtedy albo ulegamy zagładzie, albo tworzymy instytucje, które – jeśli będą miały wystarczającą władzę, żeby kontrolować proces losowania – niosą ze sobą inne zagrożenia, np. ryzyko permanentnego totalitaryzmu. Wygląda więc na to, że nasz los jest przesądzony. Przyszłość ludzkości jest albo krótka, albo negatywna.
Dopóki jest niewiedza, jest też nadzieja. Nie wiemy, czy czarna kula istnieje.
Co więcej, różne środki stabilizacyjne, jak powszechny nadzór w czasie rzeczywistym lub silniejszy porządek międzynarodowy, niosą zarówno zagrożenia, jak i możliwe korzyści, jak np. dostępność bardziej niezawodnych środków do rozwiązywania problemów z koordynacją w globalnie istotnych sprawach. Można sobie wyobrazić, że takie środki stabilizacyjne mogłyby doprowadzić do utopii raczej niż do dystopii; że dałyby nam nie tylko ochronę przed zagrożeniami, ale także światowy pokój. Być może ten proces byłby w pewnym sensie podobny do nastania epoki państw. To prawda, że istnieją dystopijne państwa totalitarne, lecz przecież nie wszystkie państwa są całkowicie zepsute. W ostatecznym rozrachunku rozpowszechnienie form państwowości zdziałało być może więcej dobrego niż złego poprzez tłumienie lokalnych konfliktów, opanowanie społecznego nieładu i przestępczości, spisanie praw, umożliwienie wzrostu gospodarczego.
Mimo że system nadzoru mógłby zostać wykorzystany przez dyktatora lub totalitarny reżim do eliminacji wszelkich form sprzeciwu, to mógłby też służyć bardziej dobroczynnemu rządowi do eliminacji wielu form przestępczości bez konieczności potężnej formacji policyjnej i długich wyroków więziennych. Gdyby istniała gwarancja, że przestępca zostanie zawsze szybko złapany i skazany, dałoby się też ograniczyć inne wydatki związane z walką z przestępczością.
Jak z długofalowej perspektywy wyglądają bieżące konflikty na świecie?Myślę, że naszym ogólnym celem powinno być zwiększenie szansy na pokojowy, kooperatywny porządek na świecie, szczególnie jeśli chodzi o największe i najważniejsze punkty sporne między światowymi mocarstwami. Brak światowej koordynacji – czy to w postaci aktywnego konfliktu, czy zbiorowej nieumiejętności zapobiegania różnego rodzaju wypadkom, wyścigom technologicznym i zbrojeniowym – stanowi źródło innych bezpośrednich zagrożeń egzystencjalnych. Należy więc postawić sobie pytanie, jak najlepiej promować światowy pokój i harmonię; trudniej jednak oczywiście o dobrą odpowiedź. Wiemy przecież, że przyszłość wyglądałaby dużo lepiej, gdyby światowe mocarstwa potrafiły się dogadać, rozwiązując światowe problemy, czy będzie to globalne ocieplenie, rozprzestrzenianie się broni nuklearnej czy wyzwania związane ze sztuczną inteligencją. Byłoby dużo łatwiej sobie z nimi poradzić, gdyby np….
