Co jest szczególnego w obecnym momencie historii?
Szczególne jest tempo technologicznej zmiany, zwłaszcza bliźniacze rewolucje w zakresie sztucznej inteligencji i bioinżynierii. Dają one możliwość hakowania ludzi i innych organizmów, a następnie ich przekształcania i tworzenia nowych form życia.
Jak dalece technologia może zmienić to, kim jesteśmy?
Niezmiernie. To przekracza naszą wyobraźnię. Zresztą technologia zmienić może także naszą wyobraźnię. Jeśli jest ona zbyt uboga, aby myśleć o nowych możliwościach, możemy ją po prostu wzbogacić. Przez miliardy lat wszelkie życie sprowadzało się do sfery organicznej. Nie miało znaczenia, czy chodzi o amebę, Tyrannosaurusa rexa, orzech kokosowy, ogórek czy homo sapiens. Każde z nich składa się z organicznych elementów i podlega prawom biochemii organicznej. Teraz jednak jesteśmy o krok od tego, by wydostać się ze tej sfery i zacząć łączyć to, co organiczne, z nieorganicznymi botami, tworząc cyborgi.
Co Pana niepokoi, gdy mowa o nowych cyborgach?
Przeprowadza się już eksperymenty, których celem jest uzupełnienie ludzkiego systemu immunologicznego o nieorganiczny, bioniczny system. Miliony maleńkich nanorobotów i czujników będą monitorować, co się dzieje w naszym ciele. Mogą one odkryć początki raka bądź jakiejś choroby zakaźnej i zwalczyć te zdrowotne zagrożenia. System mógłby monitorować nie tylko to, co idzie źle. Mógłby również śledzić nasze nastroje, emocje, myśli. To znaczy, że mógłby znać nas lepiej niż my sami. Chodzimy na wieloletnią terapię, żeby zdobyć kontakt z naszymi emocjami, a ten system – należący do Google’a, Amazona czy rządu – mógłby monitorować nasze emocje w sposób, który jest niedostępny ani nam, ani naszemu terapeucie.
Czy twierdzi Pan, że komputerowe algorytmy mogłyby pozyskiwać osobiste dane, których istnienia nawet nie jesteśmy świadomi?
Tak. Strach, złość, miłość i wszelkie inne ludzkie emocje są ostatecznie po prostu biochemicznym procesem. W ten sam sposób, jak można zdiagnozować grypę, można diagnozować złość. Można kogoś spytać: „Dlaczego jesteś zły? Czemu się gniewasz?”, a on odpowie: „Nie jestem zły, o co ci chodzi?”. Lecz ten zewnętrzny system nie musi nas o nic pytać. Może monitorować pracę naszego serca, mózgu czy ciśnienie krwi. Może mieć skalę złości i wiedzieć, że w danym momencie mamy 6,8 w skali od 1 do 10. Połączenie tego mechanizmu z olbrzymią ilością danych zbieranych 24 godz. na dobę może zapewnić nam najlepszy system ochrony zdrowia w historii. Ale także stanowić podstawę najgorszych dyktatorskich reżimów w dziejach.
Pisze Pan: „Do kogo należą dane, do tego należy przyszłość”. Co Pan przez to rozumie?
W przeszłości najważniejszym zasobem było terytorium. Później maszyny. Teraz najważniejszym zasobem są dane. Polityka staje się walką o kontrolę danych, a przyszłość należy do tych, którzy je zmonopolizują. Jedno z największych politycznych pytań naszej epoki brzmi: jak uregulować własność nad danymi?
Czego się tu należy obawiać?
Tego, że zewnętrzny system może nas znać lepiej niż my sami. Może przewidywać nasze wybory i decyzje, manipulować naszymi emocjami i sprzedać nam wszystko: od towarów po polityków.
Dlaczego nie mielibyśmy po prostu powierzyć się komputerom? Niech one podejmują decyzje za nas. Może będziemy szczęśliwsi.
W pewnych sprawach to byłby bardzo dobry pomysł. Zaczynając od takich rzeczy jak to, komu oddać prowadzenie samochodu. Obecnie ponad milion ludzi w ciągu roku ginie na świecie w wypadkach samochodowych. To więcej niż łączna liczba ofiar wojen, przestępstw i terroryzmu z tego samego okresu. A prawie wszystkie wypadki samochodowe spowodowane są błędem człowieka. Jeśli zgodzilibyśmy się na zmianę i oddali algorytmom, komputerom prowadzenie pojazdów, nie zredukowałoby to wypadków do zera, ale jest prawdopodobne, że zmniejszylibyśmy ich liczbę nawet o 90% i uratowali setki tysięcy ludzkich istnień.
Zatem kiedy oddanie władzy algorytmom okazuje się złym pomysłem?
Wtedy gdy zaczynamy oddawać im decyzje dotyczące tego, co należy studiować, gdzie żyć, z kim wziąć ślub, na kogo głosować. Algorytmy tworzą rekomendacje i to od nas zależy, czy będziemy postępować zgodnie z nimi czy nie. W wielu przypadkach ludzie będą podążać za tymi zaleceniami, ponieważ wiedzą z doświadczenia, że algorytmy podejmują lepsze decyzje. Rekomendacje mogą nigdy nie stać się doskonałe, ale nie muszą też takie być. Wystarczy, że będą w swej średniej lepsze niż te tworzone przez ludzi. Nie jest to niemożliwe, ponieważ ludzie często popełniają okropne błędy, nawet przy najważniejszych życiowych decyzjach. To nie jest kwestia przyszłości.
Już oddaliśmy algorytmom władzę rozstrzygania, jakie filmy obejrzymy i jakie książki kupimy. Jednak im mocniej ufamy algorytmom, tym bardziej tracimy umiejętność podejmowania samodzielnych decyzji.
Po kilku latach korzystania z rekomendacji Google Maps tracimy instynktowną zdolność do samodzielnego wyboru trasy. Nie znamy już własnego miasta. Więc mimo iż teoretycznie wciąż dzierżymy władzę, to w praktyce przechodzi ona na algorytm.
W kontekście sztucznej inteligencji najczęściej pojawia się strach, że roboty przejmą nad nami kontrolę, że zyskają autonomię i staną się naszymi władcami. Pan mówi coś całkiem innego. Sugeruje Pan, że sami poddamy się maszynom.
Tak, to my oddamy im władzę. W większości filmów science fiction roboty same zaczynają zmieniać swe ustawienia, a następnie usiłują zabić ludzi. Oni zaś muszą się bronić i niszczą je. To bardzo kojący dla nas mit. Sugeruje, że nikt nie wykona naszej pracy lepiej niż my, a jeśli polegać będziemy na robotach, katastrofa jest pewna. Dużo bardziej przerażającym scenariuszem jest ten, w którym roboty podejmować będą lepsze decyzje od nas. W takiej sytuacji pojawi się pytanie: o co chodzi w ludzkim życiu? Przez tysiąclecia towarzyszyła nam idea, że życie ludzkie to dramat składający się z podjętych w jego trakcie decyzji, że życie to droga, na której jest wiele skrzyżowań i co kilka dni, miesięcy lub lat trzeba podjąć decyzję.
Na tym opiera się nasz system etyczny, a do pewnego stopnia także religia.
Właśnie, jeśli podejmujesz dobre decyzje, trafiasz do nieba. Jeśli nie, wędrujesz do piekła. O tym mówi cała nasza kultura: od sztuk Szekspira po głupie hollywoodzkie komedie. Kogo powinna poślubić? Iść na wojnę czy zawrzeć pokój? Można próbować sobie wyobrazić, co stałoby się z ludźmi, gdyby Hamlet złapał za swój smartfon i zapytał Siri, co ma robić.
W jaki sposób ta technologiczna zmiana wpłynie na systemy polityczne? Dominująca polityczna ideologia – liberalna demokracja – wydaje się dziś poważnie zagrożona.
Mamy obecnie do czynienia z sytuacją, gdy brakuje nam narracji pozwalającej zrozumieć, dokąd zmierzamy. Nawet jeśli część z nas wciąż jest oddana wartościom liberalnej demokracji, straciła już ona swoją eksplanacyjną moc. W latach 90. i na początku nowego millennium tworzyła potężne proroctwa na temat naszej przyszłości. Zdawało się, że liberalna demokracja i wolnorynkowy kapitalizm rozleją się na cały świat, a wszystkie kraje upodobnią się do takich państw jak USA lub Dania. Dziś ta narracja nie oferuje już klarownej wizji przyszłości. Nikt jej zresztą nie posiada. Ani po lewej stronie, ani po prawej nie znajdziemy nikogo, kto miałby przekonującą wizję tego, jak ludzkość i świat wyglądać będą w 2050 r. Nawet ci, którzy wciąż są związani z liberalnym systemem etycznym, nie mogą już udawać, że proroctwa tej ideologii pozostają w mocy. Świat nie toczy się zgodnie z oczekiwaniami liberałów. Ci, którzy wierzą w liberalizm, nie rozumieją, co się tu, do diaska, dzieje.
Należę do ich grona. Liberalna demokracja zdaje się mieć przepis na sukces, ale, jak się okazało, nie zdołała zadziałać w ten sposób na pokaźny zestaw państw.Tak, im więcej autorytarnych przywódców przejmuje władzę, tym bardziej demokratyczne państwa muszą walczyć o swoje przetrwanie. Trzeba jednak podkreślić, że świat w…
