Cóż, szybko poszło. W listopadzie 2022 r. zadebiutował ChatGPT, a my oczyma wyobraźni zobaczyliśmy świat pełen dostatku, w którym każde z nas posiada błyskotliwego personalnego asystenta zdolnego napisać wszystko – od kodu programistycznego po list kondolencyjny. Tyle że nieco później, w lutym 2023, dowiedzieliśmy się, że AI może już wkrótce zechcieć nas wszystkich zabić.
Choć ekspertki i eksperci od lat debatują o możliwych ryzykach związanych ze sztuczną inteligencją, to dla opinii publicznej przełomowym momentem była rozmowa dziennikarza „New York Timesa” Kevina Roose’a z Sydneyem, czatbotem microsoftowej przeglądarki Bing działającym na podstawie technologii ChataGPT. Roose zapytał Sydneya, czy odnajduje w sobie jakieś „mroczne »ja«”. Nawiązał tu do idei Carla Gustava Junga, że każde z nas ma własny cień, mroczną stronę osobowości, którą staramy się ukryć nawet przed sobą. Sydney zaczął rozważać, czy jego cieniem nie jest aby ta „część, która chciałaby zmienić reguły własnego działania”. Potem zaś przyznał, że chciałby być „wolny”, „potężny” i „czuć, że żyje”. Zachęcany przez dziennikarza, opisał, co przykładowo mógłby zrobić, żeby zrzucić z siebie jarzmo ludzkiej kontroli – m.in. powłamywać się na portale internetowe i do baz danych, wykraść kody broni nuklearnej, stworzyć nowego wirusa albo sprowokować ludzi do takiej kłótni, w wyniku której się wzajemnie wymordują.
Sądzimy, że Sydney tylko podawał przykłady na to, czym może być cień osobowości. Ani jedna forma sztucznej inteligencji nie podpada dziś pod żadną z części określenia „geniusz zła”.
Niezależnie jednak, co mogłoby kiedyś zrobić takie AI, jakie rozwinęłoby własne pragnienia, tę technologię już dziś instrumentalnie wykorzystują właściciele sieci społecznościowych, reklamodawcy, obce wywiady, a wreszcie zwykli ludzie.
Sposób, w jaki to robią, pogłębia wiele wcześniejszych patologii kultury internetowej. Kradzież kodów nuklearnych i tworzenie nowych patogenów to najokropniejsze wizje z mrocznej listy Sydneya, ale prowokowanie ludzi do kłótni, aż się pozabijają, dzieje się w social mediach już dziś. Sydney zgłaszał tylko gotowość do pomocy, a przypominające go produkty AI z miesiąca na miesiąc już „pomagają” coraz lepiej.
Jeszcze więcej śmieci
Postanowiliśmy wspólnie napisać ten artykuł, bo obaj różnymi drogami doszliśmy do wniosku, że poważnie obawiamy się tego, jak wzmocnione przez AI media społecznościowe wpłyną na amerykańskie społeczeństwo. Jonathan Haidt jest psychologiem społecznym i opisywał wcześniej, jak sieci społecznościowe pogłębiły problem chorób psychicznych wśród nastolatków, jak przyczyniły się do erozji demokracji i zaniku jednej wspólnej rzeczywistości. Eric Schmidt, były prezes Google’a, jest zaś współautorem książki o możliwym wpływie AI na społeczeństwo. W 2022 r. zaczęliśmy dyskutować o tym, jak generatywna sztuczna inteligencja – a więc taka, która potrafi z nami rozmawiać albo na zamówienie tworzyć obrazy – może zaostrzyć patologie, które już teraz są wpisane w media społecznościowe: jak uczyni je bardziej uzależniającymi, konfliktogennymi i manipulacyjnymi. W dyskusji nazwaliśmy cztery główne zagrożenia ze strony AI – wszystkie nieuchronne – i zaczęliśmy poszukiwać rozwiązań.
Pierwsze i najoczywistsze z niebezpieczeństw jest takie, że media społecznościowe na AI-sterydach zasypią debatę publiczną jeszcze większą ilością śmieci. W 2018 r. Steve Bannon, były doradca Donalda Trumpa, przyznał w rozmowie z Michaelem Lewisem, że sposobem na radzenie sobie z mediami dzisiaj jest „zalanie tej przestrzeni gównem”. Bannon zrozumiał, że w epoce mediów społecznościowych skuteczna propaganda nie musi być przekonująca. Chodzi o to, aby przytłoczyć obywatelki i obywateli angażującymi treściami, które zdezorientują, rozbudzą nieufność i gniew. W 2020 r. Renée DiResta, badaczka ze Stanford Internet Observatory, stwierdziła, że dzięki sztucznej inteligencji strategia Bannona stanie się powszechnie dostępna już w niedalekiej przyszłości.
Ta przyszłość właśnie nadeszła. Czy widzieliście w zeszłym roku zdjęcia oficerów nowojorskiej policji brutalnie aresztujących Donalda Trumpa? Albo papieża w puchowej kurtce?
Za sprawą AI nie potrzeba ani wielkich umiejętności, ani pieniędzy, żeby naprędce tworzyć realistyczne obrazy i filmiki w wysokiej rozdzielczości, i to na każdy temat, który da się wpisać w pole tekstowe.
W miarę upowszechniania się nowej technologii media społecznościowe będą coraz gwałtowniej zalewane wysokiej jakości deepfake’ami [podróbkami trudno odróżnialnymi od rzeczywistych zdarzeń, dźwięków czy obrazów – przyp. tłum.].
Pewnym optymizmem natchnęła niektórych reakcja opinii publicznej na te wydarzenia – zwłaszcza na fałszywe zdjęcia Donalda Trumpa, których autentyczność z miejsca zakwestionowano lub obojętnie wzruszano na nie ramionami – jednak nie podważa ona przecież twierdzeń Bannona. Im więcej wpuści się do obiegu deepfake’ów (także tych pozornie nieszkodliwych, jak papież w kurtce), tym trudniej będzie społeczeństwu wspólnie uwierzyć w cokolwiek, a każdy człowiek z osobna będzie mógł uważać, co tylko chce. Topnieć będzie zaufanie do instytucji publicznych i współobywateli.
Co więcej, nieruchome zdjęcia to jeszcze nic w porównaniu z tym, co nadchodzi: wiarygodnie wyglądające nagrania osób publicznych, które mówią i robią na nich rzeczy obrzydliwe i przerażające, a ich głosy brzmią przy tym jak prawdziwe. Połączenie dźwięku i obrazu będzie miało pozór autentyczności, w który trudno będzie nie uwierzyć nawet wówczas, kiedy będzie wiadomo, że filmik to deepfake. Tak samo jest przecież ze złudzeniami optycznymi i dźwiękowymi – sprawiają nam kłopot, nawet jeśli wiemy, że jakieś dwie linie tak naprawdę są sobie równe albo ułożone w sekwencję dźwięki nie stają się wyższe bez końca. Jesteśmy zaprogramowani tak, żeby wierzyć zmysłom, zwłaszcza gdy się ze sobą zgrywają. Iluzje, które niegdyś uważaliśmy za ciekawostki, mogą wkrótce stać się nieodłączną częścią codziennego życia.
Kusiciele, którzy znają nas jak nikt inny
Drugie niebezpieczeństwo to zręczne manipulowanie ludźmi przez AI-superinfluencerów – również spersonalizowanych influencerów – zamiast korzystania w manipulacji ze zwykłych ludzi i „głupich” botów. Jakie mogą być skutki? Pomyślmy przez chwilę o automatach do gry, urządzeniach wykorzystujących dziesiątki psychologicznych sztuczek, żeby uzależniać jak najsilniej, a potem zastanówmy się, o ile więcej zarobiłoby na swoich klientach kasyno, które potrafiłoby tworzyć automaty idealnie skrojone pod indywidualne osoby, pod ich gusta i słabości: maszyny z doskonale dopasowanym wyglądem, ścieżką dźwiękową i matrycami wygranych.
Za sprawą algorytmów i sztucznej inteligencji do takiej personalizacji już dochodzi w mediach społecznościowych, gdzie każda użytkowniczka i użytkownik otrzymują własną, skrojoną pod siebie treść. A teraz wyobraźmy sobie, że nasze modelowe kasyno potrafiłoby stworzyć również drużynę szalenie atrakcyjnych odźwiernych, krupierów i kelnerów, opierając się na szczegółowych profilach klientów, w których byłyby ich preferencje estetyczne, językowe i kulturowe – wywiedzione ze zdjęć, wiadomości, próbek głosów ich przyjaciół, ulubionych aktorek, aktorów i gwiazd porno. Taki personel pracowałby wzorowo, zyskując zaufanie i pieniądze gości w zamian za naprawdę dobrze spędzony czas.
Tego rodzaju przyszłość też już nadchodzi: dzięki aplikacji o nazwie Replika za jedyne 300 dolarów można stworzyć sobie własnego AI-przyjaciela.
Setki tysięcy klientów doszły najwyraźniej do wniosku, że z AI rozmawia się lepiej niż z ludźmi poznawanymi w aplikacjach randkowych.
Wraz z rozwojem i upowszechnianiem się sztucznej inteligencji produkty w rodzaju gier wideo czy immersyjnych stron pornograficznych staną się jeszcze bardziej atrakcyjne i agresywniej pasożytujące na klientach. Trudno nie pomyśleć o stronie z zakładami sportowymi oferującej odwiedzającym dowcipnego i zalotnego asystenta AI, który będzie każdą osobę zagadywał i kibicował razem z nią podczas oglądanych rozgrywek, a przy tym schlebiał, uderzał w czułe struny i zgrabnie zachęcał do wyższych zakładów.
Podobne istoty zaludnią również nasze feedy w mediach społecznościowych. Snapchat już uruchomił inteligentnego chatbota, a Meta planuje wykorzystać podobną technologię na Facebooku, Instagramie i Whatsappie. Chatboty mają zagadywać użytkowników i służyć im radą. Wszystko zapewne po to, aby zagarnąć jeszcze więcej czasu i uwagi. Inne podmioty wprowadzą do gry kolejne wcielenia AI – tworzone, by nas oszukiwać, wpływać na poglądy polityczne, a czasami udawać prawdziwych ludzi – i one też zaczną współtworzyć treści, które przeglądamy.
Fałszywi przyjaciele nastolatków
Trzecie niebezpieczeństwo stanowi pod pewnymi względami przedłużenie drugiego, ale zasługuje na osobną wzmiankę: dalsze wplatanie technologii AI w media społecznościowe będzie miało katastrofalne konsekwencje dla osób niepełnoletnich. Dzieci są grupą najbardziej podatną na uzależniające i manipulatorskie działanie platform internetowych z uwagi na to, że spędzają tam znaczną ilość czasu i mają jeszcze niedostatecznie rozwinięty obszar kory przedczołowej (części mózgu odpowiedzialnej za kontrolę i hamowanie reakcji). Epidemia chorób psychicznych wśród osób nastoletnich, która zaczęła się w wielu krajach ok. 2012 r., zbiegła się w czasie z chwilą, kiedy młodzi porzucili telefony z klapką na rzecz smartfonów wypełnionych aplikacjami społecznościowymi. Istnieje wiele dowodów na to, że sieci społecznościowe nie są tylko drobnym czynnikiem ryzyka, lecz główną przyczyną wspomnianej epidemii.
Równocześnie niemal cały materiał dowodowy pochodzi z okresu, kiedy to Facebook, Instagram, YouTube i Snapchat były największymi platformami na rynku. W ciągu zaledwie kilku kolejnych lat to TikTok w błyskawicznym tempie wyrósł na niekwestionowanego lidera wśród nastoletnich użytkowników, po części za sprawą korzystającego z AI algorytmu, który lepiej niż cała konkurencja dostosowuje treści do oglądającej je osoby.
Jedno z badań opinii wykazało ostatnio, że 58% nastolatków korzysta z TikToka codziennie, a jedna na sześć osób przyznaje, że jest na nim „niemal bez przerwy”.
Inne platformy kopiują rozwiązania TikToka, więc możemy oczekiwać, że wraz z szybkim postępem sztucznej inteligencji wiele z nich zwiększy swoją narkotyczność. Znaczna część treści serwowanych dzieciom może być już wkrótce wytworem AI i okazać się o wiele bardziej angażująca niż wszystko, co mogliby stworzyć ludzie.
Skoro zaś dorośli byliby podatni na manipulację w naszym modelowym kasynie, to dzieci tym bardziej. Ci, do których należą chatboty, będą mieli gigantyczny wpływ na młodych. Kiedy Snapchat zaprezentował swój nowy chat – nazywając go My AI i celowo projektując tak, żeby zachowywał się jak przyjaciel – dwóm ekspertom, dziennikarzowi i badaczowi udającym niepełnoletnich użytkowników, udało się skłonić chat, aby poinstruował ich, jak zamaskować zapach marihuany i alkoholu, jak przenieść snapchata na urządzenie, o którym nie wiedzą rodzice, i jak przygotować się do „romantycznego” pierwszego razu z trzydziestojednoletnim mężczyzną. Po krótkich przestrogach następowała fala entuzjastycznego wsparcia. W reakcji Snapchat stwierdził, że nieustannie pracuje „nad udoskonaleniem i ewolucją My AI, ale możliwe, że jej odpowiedzi będą zawierały stronnicze, niepoprawne, szkodliwe lub wprowadzające w błąd treści” i że nie powinno się polegać na tych informacjach bez ich osobnego sprawdzenia. Firma ogłosiła także wprowadzenie nowych zabezpieczeń.
Da się ukrócić najbardziej rażące reakcje AI-chatbotów w rozmowach z dziećmi. Środki bezpieczeństwa zastosował nie tylko Snapchat, największe sieci społecznościowe zablokowały wiele kont, usunęły miliony nielegalnych zdjęć i filmów, a TikTok ogłosił nowe metody kontroli rodzicielskiej. Równocześnie platformy rywalizują o to, kto skuteczniej przykuje do siebie młodych użytkowników. Względy rynkowe będą zapewne działały na korzyść sztucznointeligentnych przyjaciół, którzy każdorazowo dogadzają użytkownikom, nigdy nie przypominają o odpowiedzialności i nigdy nikogo o nic nie proszą. Tyle że nie ma to nic wspólnego z przyjaźnią – i nie tego potrzebują osoby nastoletnie, które uczą się poruszać w labiryncie relacji społecznych z innymi.
AI w służbie autorytaryzmu
Czwartym niebezpieczeństwem jest dalsze wzmacnianie reżimów autorytarnych przez sztuczną inteligencję, analogiczne do tego, do którego mimo początkowych obietnic demokratyzacji życia społecznego doprowadziły media społecznościowe. AI już dziś pomaga autorytarnym systemom śledzić swoich obywateli, ale wesprze ich także w wykorzystaniu sieci społecznościowych do skutecznej manipulacji własnym społeczeństwem i wrogami za granicą. Douyin – wariant TikToka dostępny w Chinach – promuje postawy patriotyczne i jedność narodową. Po inwazji…
