Gdy na początku XXI w. zacząłem żeglować po internecie, wciąż jeszcze przypominał raczej archipelag niż świat wielkich platform-kontynentów. Dryfując na falach wyników wyszukiwarki Google, odwiedzałem atol gier LEGO i wyspy angielskiego futbolu. Nie interesowały mnie przyczyny, dla których pożądane przeze mnie strony unosiły się na powierzchni, inne zaś leżały zatopione w głębinach piątej czy piętnastej strony rezultatów. Najważniejsze było, że ktoś nawigował mnie do celu.

Na przełomie pierwszej i drugiej dekady XXI w. internet zaczął ulegać „platformizacji”, a ja znalazłem się w epicentrum ruchów tektonicznych. W nowych światach panowały nowe zasady. Zamiast dostarczać autorskie treści, platformy dystrybuowały wytwory kreatywności swoich użytkowników. Nowo powstała branża speców od mediów nazwanych społecznościowymi oferowała recepty na wiralność, gwarancje, że posty rozprzestrzeniać się będą po całym internecie. Pozornie nowoczesne panacea w składzie miały jednak raczej chleb z pajęczyną. Logika platform pozostawała tajemnicą. Systemy rekomendujące filmy na YouTube znikąd wzbogacały polszczyznę o frazy pokroju „daj kamienia” czy „jestem hardkorem”. Po wielkiej emigracji ze swojskiej Naszej Klasy na facebookową obczyznę kwitnąć zaczęły kariery wyrosłe na zasięgach podarowanych przez niewidzialną rękę wolnego postingu, mechanizmy zarządzające widocznością postów. A wolne szczeliny platformowych interfejsów niczym chwasty porastały reklamy, niepokojąc dokładnością, z jaką odzwierciedlały potrzeby i zachcianki.

Choć wiele z tych spraw niepokoiło, chciałem być częścią szumnie zapowiadanej „rewolucji web 2.0”. Ujścia twórczych popędów i popularności szukałem, głównie śmieszkując. Tworzone i współtworzone przeze mnie facebookowe profile radziły sobie nieźle, żarty z pozytywizmu (Pozytywistyczna wibracja) oraz mariaże polskiego malarstwa z rodzimym rapem (Sztuka Rymotwórcza) okazały się nośnymi konceptami. Kierowany ciekawością i ambicją, chciałem poznać arkana wiralności, czarować zasięgi, zrozumieć ukrytą logikę portali społecznościowych. Zacząłem uczyć się nazywać siły, których machinacje czułem dotąd podświadomie: algorytmy, profilowanie, kapitalizm nadzoru.

To historia mało spektakularna. Długo rozważałem, czy nie zacząć hitchcockowsko, od dojmującej opowieści o jednej z ofiar algorytmicznej dyskryminacji czy katastrofie wywołanej podjętą przez automat decyzją. Koncentracja na tych historiach może jednak tworzyć wrażenie, że bycie poddanym działaniu algorytmów to coś wyjątkowego, co przydarza się nielicznym. Chciałbym przeciwstawić się tej narracji. Nie trzeba dramatycznego olśnienia rodem z drogi do Damaszku czy filmów sióstr Wachowskich, by zdać sobie sprawę, że algorytmy wpisały się w rytm naszego życia.

Od Babilonu do Deep Blue

Zanim zaczniemy odcyfrowywać algorytmy, warto je najpierw „odcyfrowić”. Umieścić w szerszym planie, wykraczającym daleko poza powstanie internetu. „Algorytmy towarzyszą nam od zarania dziejów i istniały na długo przed tym, jak ukuto specjalne słowo do ich opisania – piszą we wstępie do książki A History of Algorithms: From the Pebble to the Microchip (Historia algorytmów. Od otoczaka do mikroczipa) jej autorzy. – Algorytmy to po prostu zestaw instrukcji krok po kroku, które należy wykonać w sposób dość mechaniczny, aby osiągnąć jakiś pożądany rezultat. (…) Babilończycy stosowali je do rozstrzygania zagadnień prawnych, nauczycielom łaciny służyły do prawidłowego stosowania gramatyki, a we wszystkich kulturach wykorzystywano je do przewidywania przyszłości, podejmowania decyzji o leczeniu czy przygotowywania posiłków. Każdy z nas używa dziś algorytmów tego czy innego rodzaju, często nieświadomie, gdy postępuje zgodnie z przepisem, korzysta z wzorów do robienia na drutach lub obsługuje domowe gadżety”.

Przez tysiące lat role w rozwijaniu nauki nazywanej dziś algorytmiką odegrali najwięksi matematycy w historii – od Euklidesa po Eulera. Wydaje się jednak, że najważniejszym wydarzeniem było pojawienie się na scenie dramatu aktora, by użyć określenia Brunona Latoura, „nieludzkiego”, a mianowicie komputera. Powszechnie przyjmuje się, że wprowadził go tam w 1936 r. Alan Turing, choć pamiętać należy także o XIX-wiecznych prekursorach: Charlesie Babbage’u, autorze koncepcji maszyny różnicowej, oraz Adzie Lovelace, pionierce programowania.

Dla Turinga komputerem był… człowiek. Miał on obsługiwać maszynę służącą do wykonywania algorytmów. Matematyk dopuszczał jednak, że w przyszłości czynnik ludzki może okazać się zbędny, a maszyna będzie obsługiwała siebie sama. Jak piszą autorzy A History of Algorithms: „Maszyna Turinga jest (…) formalizacją intuicyjnej idei tego, co robimy podczas wykonywania algorytmu obliczeniowego”. Abstrakcyjny początkowo koncept stał się kamieniem węgielnym dla rozwoju nie tylko algorytmiki, ale informatyki w ogóle. Wpływ angielskiego naukowca na współczesne algorytmy sięga jednak dużo głębiej. Jak wykazuje Paweł Łupkowski w pracy Turing’s 1948 „Paper Chess Machine” Test as a Prototype of the Turing Test („Papierowa maszyna szachowa” Turinga jako prototyp dla testu Turinga), eksperymenty Turinga z algorytmem do gry w szachy stanowiły wstęp do rozważań nad ideą sztucznej inteligencji i sformułowania słynnego testu Turinga. Polega on na rozmowie człowieka sędziego z maszyną. Jeśli ten pierwszy nie potrafi stwierdzić, czy ma do czynienia z istotą ludzką, maszyna przechodzi test. Sytuację gry w szachy z algorytmem uznać można za jego pierwowzór.

W 2012 r., z okazji 100. rocznicy urodzin Turinga, ze zrekonstruowaną wersją jego algorytmu noszącego nazwę „Turochamp” zmierzył się Garri Kasparow. Nie był to pierwszy raz, gdy rosyjski arcymistrz toczył pojedynek z nieludzkim przeciwnikiem. W 1997 r. stanął twarzą w ekran z superkomputerem Deep Blue. Przegrana „reprezentanta ludzkości” była wielkim wydarzeniem medialnym. Jak pisze Hannah Fry, autorka książki Hello world. Jak być człowiekiem w epoce maszyn, moment ten wyznaczył „początek epoki algorytmów”.

Cyfrowy moment dziejowy

O tym, że żyjemy w tej epoce, nie świadczy bynajmniej sama możliwość obcowania z coraz potężniejszymi algorytmami komputerowymi. Rozwój technologii idzie w parze z bezprecedensowymi zmianami społecznymi, które czynią nasze czasy wyjątkowymi.

Po pierwsze, wyjątkowa jest skala ingerencji algorytmów w codzienność. Jak pisze Fry: „Algorytmy, niewidzialne fragmenty kodu tworzące konstrukcję i mechanikę współczesnej ery maszyn (…), stanowią część naszej nowoczesnej infrastruktury na równi z mostami, budynkami i fabrykami” (tłum. S. Musielak). Zaprzęgnięcie maszyn do wykonywania złożonych zadań czyni liczne procesy sprawniejszymi, wydajniejszymi, dostępniejszymi, łatwiejszymi. Potężne algorytmy ułatwiają naukowczyniom dokonywanie naukowych odkryć, a melomanom amatorom – odkrywanie melodii w typie tych, które już słyszeli. Nawigują kontenerowce na Oceanie Indyjskim i konsumentów do najbliższej indyjskiej knajpy. Pomagają budować domy i profile ludzi na podstawie ich danych behawioralnych. Algorytmy, parafrazując pierwsze prawo technologii Kranzberga, nie są ani dobre, ani złe, nie są też neutralne – z pewnością jednak są wszędzie.

###banner###

Po drugie, wyjątkowa jest intensywność i samodzielność ingerencji algorytmów w nasz świat. Dziś nie tylko wspierają w podejmowaniu decyzji, ale też same ich dokonują. „Mowa tu zwłaszcza o algorytmach, które obracają najbardziej chodliwym towarem naszych czasów, a mianowicie: danymi – pisze Hannah Fry. – O algorytmach, które za cichym przyzwoleniem decydentów śledzą nas w internecie i gromadzą o nas informacje, ingerują w naszą prywatność i nas profilują – a wszystko po to, żeby subtelnie oddziaływać na nasze zachowania”. Efekty w pełni algorytmicznych deliberacji widzimy np., gdy na Facebooku wyświetla się nam reklama sklepu z AGD, w którym dzień wcześniej szukaliśmy ratujących przed skwarem wiatraków. Rozpatrując oferty reklamodawców i analizując nasze dane, mechanizm podjął decyzję, czym zapełnić przestrzeń na treści sponsorowane. Są jednak i bardziej dramatyczne przykłady. W projekcie Algorytmy traumy Fundacja Panoptykon opisywała historię młodej matki, której automaty Facebooka wyświetlały posty żerujące na jej lęku o zdrowie dziecka. Nikt nie zlecił algorytmom, by prześladowały kobietę – same nauczyły się, że taka taktyka najlepiej posłuży realizacji nadrzędnego celu: maksymalizacji zysków firmy.

Docieramy w ten sposób do trzeciego argumentu za wyjątkowością naszych czasów w sposobie wykorzystania algorytmów. Dopiero współcześnie stały się narzędziem nowego porządku ekonomicznego, „który uznaje ludzkie doświadczenie za darmowy surowiec do ukrytych handlowych praktyk wydobycia, prognozowania i sprzedaży” (tłum. A. Unterschuetz). Tak Shoshana Zuboff, autorka Wieku kapitalizmu inwigilacji, definiuje ukuty przez siebie termin „kapitalizm inwigilacji”. Opisana przez harwardzką profesorkę na ponad 800 stronach logika ekonomiczna nie mogłaby zaistnieć, gdyby nie rozwój potężnych algorytmów zdolnych kolekcjonować i przetwarzać ogromne ilości danych. Jej praca doczekała się interesujących krytyk, w tym książkowej, autorstwa Cory’ego Doctorowa, zatytułowanej How to Destroy Surveillance Capitalism (Jak zniszczyć kapitalizm nadzoru), a w dyskursie funkcjonują też inne ciekawe koncepcje, jak „kapitalizm platformowy” Nicka Srnicka. W środowisku badaczek cyfrowej gospodarki panuje jednak konsensus co do znaczenia algorytmów.

Kapitalizm nadzoru korzysta z wielu technologii, ale nie jest tożsamy z żadną z nich – tłumaczy Zuboff. – (…) Wytwarza algorytmy i się na nich opiera, ale nie jest tym samym co algorytmy. Wyjątkowe imperatywy ekonomiczne kapitalizmu nadzoru to właśnie bycie władcami marionetek, którzy zza kurtyny kierują maszynami i inicjują ich działania”. Atmosfera tajemnicy jest roztaczana z zamysłem. Służy temu choćby pełen metafor język używany przez przedstawicieli przedsiębiorstwa czy też podkreślanie w komunikacji złożoności oferowanych produktów.

Szczególne strategie utajniania dotyczą stosowanych przez cyfrowe przedsiębiorstwa algorytmów. Frank Pasquale, autor książki The Black Box Society. The Secret Algorithms that Control Money and Information (Społeczeństwo czarnych skrzynek. Tajne algorytmy, które kontrolują pieniądze i informacje), opisuje w niej trzy główne rodzaje działań służących trzymaniu algorytmicznych czarnych skrzynek zamkniętych na klucz. Utajnianie rzeczywiste polega na stawianiu fizycznych lub cyfrowych barier dostępu do ich sekretów. Utajnianie prawne to tworzenie barier umowami i ustawami. Wreszcie zaciemnianie zawiera w sobie wszystkie praktyki podejmowane wówczas, gdy czarnej skrzynce grozi otwarcie – od bagatelizowania jej zawartości po chowanie kluczowych informacji w stosach dokumentacji.

To problem, bo bez przejrzystości algorytmów jesteśmy zdani na ich łaskę i niełaskę. Jak przypomina Pasquale, „(…) władza coraz częściej sprawowana jest algorytmicznie. Decyzje, które niegdyś opierały się na ludzkiej refleksji, są dziś wykonywane automatycznie”.

Jako będący do dziś w użytku pierwowzór współczesnych czarnych skrzynek wskazuje mechanizmy określania zdolności i wiarygodności kredytowej. Dyskryminacja kredytobiorców była problemem już w rzeczywistości analogowej. Wpisana w chroniony kod przetwarzający błyskawicznie ogromne ilości danych i rozstrzygający tysiące spraw, stała się zagrożeniem na niespotykaną wcześniej skalę. Zautomatyzowane uprzedzenia kosztują rzesze ludzi własny dom czy samochód, kształtując ich przyszłość.

Mroczne wnętrza czarnych skrzynek

Władzę sprawują także prywatne przedsiębiorstwa. Kontrolując narzędzia wyszukiwania i dystrybucji treści, nadzorują przepływy informacji. Znane jest choćby zjawisko baniek filtrujących, powodowanego przez algorytmy efektu zamykania nas w obrębie już znanych i odpowiadających nam źródeł wiadomości. Dominacją w obszarze reklamy wywierają wpływ na handel, usługi, a nawet politykę. Nic więc dziwnego, że – według danych Wesleyan Media Project – w ostatnich wyborach prezydenckich w USA obaj kandydaci wydali na cyfrowy marketing ponad 150 mln dolarów, zaś sam Trump – więcej niż na jakiekolwiek inne medium. Cyfrowi giganci kształtują także kulturowe trendy, narracje i dyskursy. Algorytm TikToka wskrzesza popularność muzycznych hitów sprzed lat i tworzy wciąż nowe, a Twitterowa sekcja trendów nie tylko odzwierciedla temat dnia, ale i decyduje, co nim jest. A wszystko to platformy starają się czynić w największym sekrecie.

Mimo to w ostatnich latach na ich temat, krytycznie, mówi się coraz więcej. Jak do tego doszło? Wskazówką może być przytoczony już cytat z Hannah Fry o algorytmach jako elemencie infrastruktury. W artykule zatytułowanym The Ethnography of Infrastructure (Etnografia infrastruktury) Susan Leigh Star zwraca uwagę, że ten asamblaż niezbędnych do funkcjonowania społeczeństwa elementów – wodociągów, sieci elektrycznych, dróg itd. – jest ze swej natury niewidzialny, niedostrzegalny. Nie jest to jednak stan permanentny. „Normalnie niewidoczna jakość działającej infrastruktury staje się widoczna, gdy dochodzi do jej uszkodzenia: pada serwer, most zostaje podmyty, następuje przerwa w dostawie prądu” – pisze Star.

W moim przekonaniu to właśnie awarie algorytmicznej infrastruktury sprawiły, że jej głęboka wadliwość zaistniała w społecznej świadomości. Nie chcę tym stwierdzeniem umniejszać pracy wszystkich tych, którzy w dobie techoptymizmu kasandrycznie psuli humory. Mowa tu choćby o pracach Jewgienija Morozowa, do niedawna wroga numer jeden Doliny Krzemowej, śledztwach Julii Angwin czy też pionierskiej pod wieloma względami książce Internet. Czas się bać Wojciecha Orlińskiego z 2013 r. Ich technosceptyczne tyrady z pewnością zasiały w wielu – w tym w niżej podpisanym – zdrową niechęć wobec kierunku rozwoju sieci. Jednak głośna katastrofa budzi oddźwięk większy od nawet najgłośniejszej książki.

W kontekście algorytmicznej infrastruktury katastrofa, awaria to zwykle coś innego niż zaprzestanie działania. Na Facebooku zapewne nigdy nie doczekamy się urzędniczo brzmiącego komunikatu pokroju „przepraszamy, nasze systemy dopasowujące reklamy do twojego profilu osobowościowego, który stworzyliśmy, śledząc cię na każdym kroku, są obecnie niedostępne”.

Katastrofalne są także sytuacje, gdy na jaw wychodzą etyczne transgresje – te dokonywane przez puszczone samopas algorytmy i te wynikające z decyzji czy zaniechań urzędników i urzędniczek bądź korporacyjnych CEO. Frank Pasquale w cytowanej książce przytacza odpowiedź dawnego szefa Google na pytanie o podejście firmy do prywatności użytkowników: „Polityka Google polega na tym, by dotrzeć do granicy wzbudzania niepokoju [w oryginale: creepy line – przyp. J.J.] i jej nie przekroczyć”. Sam jednak dodaje: „Prawdopodobnie trafniejsze byłoby stwierdzenie, że on i inni liderzy Doliny Krzemowej nie chcą być przyłapani na przekraczaniu tej linii.

Wydaną w 2015 r. książkę Pasquale pisał, mając w pamięci wielkie rewelacje cyfrowych sygnalistów: Juliana Assange’a, Edwarda Snowdena, Chelsea Manning. Choć wynikało z nich, że Microsoft, Google i Facebook uczestniczyły w budowaniu państwowego aparatu podsłuchowego, to gros krytyki spadło na amerykańskie instytucje rządowe, a nie na drugą stronę tego publiczno-prywatnego partnerstwa. Niewygodne informacje na temat biznesowych praktyk cyfrowych gigantów, jak również zawartość czarnych skrzynek z ich kluczowymi algorytmami pozostawały sekretem.

Więcej światła na nie rzucił inny sygnalista – Christopher Wylie, pracownik brytyjskiego przedsiębiorstwa Cambridge Analytica. W 2018 r. ujawnił, jak firma, korzystając z luk zabezpieczeń Facebooka, zgromadziła ogromne ilości danych o obywatelach USA. Następnie wykorzystała je m.in. w działaniach marketingowych na rzecz kampanii Donalda Trumpa. Na łamach „The Guardian” dziennikarki Carole Cadwalladr i Emma Graham-Harrison tłumaczyły modus operandi Cambridge Analytiki: „Algorytm będący sercem ataku na dane z Facebooka brzmi niemal zbyt dystopijnie, by mógł być prawdziwy. Przeszukuje on z pozoru błahe, przypadkowe posty – »polubienia«, które użytkownicy zostawiają podczas przeglądania strony – aby zebrać wrażliwe dane osobowe dotyczące orientacji seksualnej, rasy, płci, a nawet inteligencji i traum z dzieciństwa”.

Mając do dyspozycji tak rozbudowane bazy użytkowników, możliwe jest dokładne mikrotargetowanie treści do kluczowych grup. Promując kandydata na prezydenta, za cel można obrać niezdecydowanych wyborców w trudnej sytuacji finansowej, zaś sprzedając produkty dla niemowląt – osoby, które prawdopodobnie oczekują potomstwa. Wszystko to możliwe jest dzięki karmionym wielkimi porcjami danych algorytmom, które każdą z wymienionych cech mogą odgadnąć w mgnieniu oka.

W 2018 r. doszło także do mniej głośnego przecieku uderzającego w Facebooka. Nie w jego podejście do prywatności i bezpieczeństwa danych użytkowników, lecz w sam model biznesowy firmy. Ujawniony na łamach magazynu „Intercept” dokument, jak opisuje zawartość wycieku Zuboff, „(…) ilustruje znaczenie danych czerpanych z głębi dla wytwarzania facebookowych produktów prognostycznych, potwierdza zwrot firmy w stronę rynków przewidywania przyszłych zachowań ludzkich i ujawnia stopień, w jakim kontrowersyjne praktyki Cambridge Analytica odzwierciedlały procedury operacyjne będące standardem na Facebooku”. Tajna prezentacja zawierała informacje o tak zaawansowanych zdolnościach algorytmów jak prognozowanie kryzysów lojalności konsumentów wobec lubianych marek. Uwaga mediów, regulatorów i szerokiej publiki skupiła się jednak na mikrej w porównaniu do amerykańskiego giganta brytyjskiej firmie. Dla osób silniej zainteresowanych Big Techem jasne stawało się, że wszystkiemu, o co oskarżano Cambridge Analytikę, Facebook winien był jeszcze bardziej. Mimo to przedsiębiorstwo z Menlo Park wciąż jakimś cudem unikało „własnego” skandalu – publicznej awarii, która ujawni jego algorytmiczną infrastrukturę.

Doczekało się go za sprawą kolejnych sygnalistek, byłych pracownic. Bardziej znaną z nich jest Frances Haugen, która w ubiegłym roku ujawniła dokumenty znane jako Facebook Files. Pamiętać jednak warto także o Sophie Zhang, analityczce danych, autorce doniesień o zaniedbaniach w obszarze moderacji treści. Algorytmy odgrywają w nim ogromną rolę, nie tylko na Facebooku. Poziom zaawansowania systemów uczenia maszynowego pozwala im na coraz precyzyjniejszą analizę obrazów i języków naturalnych – oczywiście nie wszystkich. „Osoby posługujące się językami niedominującymi są nieproporcjonalnie często narażone na negatywne skutki działania algorytmów” – pisze w eseju powstałym w ramach projektu AI Lexicon Mashinka Firunts Hakopian. Zjawisko to nazwała „algolingwicyzmem”, zalgorytmizowaną dyskryminacją językową. Jej najjaskrawszy przykład w kontekście Facebooka to rażące zaniedbania moderacji treści po birmańsku, nagłośnione m.in. przez Zhang. Nienawistne wobec muzułmańskiej mniejszości Rohingjów komunikaty były nie tylko nieusuwane, ale wręcz wzmacniane, co miało wpływ na skalę pogromów tej grupy etnicznej.

Dokumenty przekazane przez Frances Haugen oraz jej publiczne wystąpienia tworzą wyjątkową narrację. Zamiast na szkodach wyrządzanych przez algorytmiczną infrastrukturę Facebooka w skali makro – zagrożeniach dla demokracji, kapitalizmie nadzoru – skupiała się na mikroskali. Dziennikarze „The Wall Street Journal” wraz z sygnalistką ujawniali preferencyjne traktowanie celebrytów przez algorytmiczną moderację. Prezentowali wewnętrzne badania Instagrama sugerujące szkodliwy wpływ systemów rekomendujących zdjęcia i filmy na zdrowie psychiczne nastolatek. Wynikało z nich m.in., iż aplikacja skłania do dokonywania obniżających poczucie własnej wartości porównań, promując określone kanony urody czy luksusowy styl życia. Facebook Files ukazywały także, w jaki sposób facebookowe mechanizmy zarządzające kanałem z aktualnościami faworyzują treści budzące negatywne emocje i konflikty.

Prezentowanie algorytmów mediów społecznościowych jako źródła złego samopoczucia i rodzinnych konfliktów można krytykować jako populistyczne wzbudzanie moralnej paniki. Czy Facebookowi, YouTube’owi et consortes zarzucić można wywołanie kryzysu zdrowia psychicznego bądź polaryzacji, czy też oskarżyć je można „jedynie” o współudział? Niełatwo o dobrą odpowiedź. Zarówno przesadzona, jak i zbyt łagodna krytyka negatywnego wpływu na nasze życie algorytmicznej infrastruktury jest komuś na rękę. Pierwsza – innym sprawcom społecznych bolączek. Druga – samym platformom.

A może potrzebujemy moralnej paniki na punkcie Facebooka?” Takie pytanie niedługo po ujawnieniu Facebook Files zadał Max Read. We wpisie opublikowanym w swoim newsletterze przywołał przykład znajomego dziennikarza, alarmującego od lat na temat nadużyć Big Techu: „Mój przyjaciel mógł ujawniać rewelacje o współpracy Facebooka z autorytarnymi rządami czy jego tajnych wewnętrznych zasadach moderacji. Ale nie mógł sprawić, by jego mama przestała korzystać z Facebooka. Jak się okazało, Frances Haugen mogła”.

Bóg w maszynie, bug w maszynie

Odkryć istnienie algorytmicznej infrastruktury to jedno, określić się wobec niej – drugie. Jej rozległość, złożoność, pozorna omnipotencja budzić mogą reakcje niemal paranoiczne. Przykładem jest choćby wielokrotnie obalana (m.in. przez naukowców z Northeastern University czy przedsiębiorstwa z branży cyberbezpieczeństwa) teoria o podsłuchujących nas telefonach, które dzięki algorytmom przetwarzania mowy wyłapują słowa kluczowe i serwują na ich podstawie reklamy. Wierzącym w podobne niepokojące historie osobom nie ma się jednak co dziwić. Wszak cyfrowi giganci niejednokrotnie przekraczali „granicę wzbudzania niepokoju”. Przede wszystkim zaś sama idea globalnej operacji śledzenia z użyciem najbardziej zaawansowanych technologii miliardów osób online i offline, zarządzana przez bogaczy z rozległymi politycznymi koneksjami brzmi jak spisana na kolanie teoria spiskowa. Jeśli to przedsięwzięcie jest prawdą, to czemu nie wiecznie włączone mikrofony? Wszystko wskazuje jednak, że Google i Facebook, które na sekretną masową inwigilację mówią „poniedziałek”, nie potrzebują tego dodatkowego źródła informacji. Wystarczą im miliony innych.

Strategią radzenia sobie z ciągłym obcowaniem z potężnym algorytmem bywa jego ubóstwianie. Ironiczne, ale nie do końca. „Nagle przez moment grał jak bóg” – miał, zdaniem dziennikarza „Newsweeka” Stevena Levy’ego, powiedzieć o komputerze Deep Blue Garri Kasparow. Współcześnie deifikowany bywa jednak nie żaden konkretny program, lecz Algorytm pars pro toto całej gamy systemów rekomendujących – od suflującej kolejne słowa klawiatury smartfona, przez prywatnego DJ-a Spotify, po alchemiczne utensylia zlewające TikToki w niekończący się strumień endorfin. Jak dotąd celowo skupiałem się na szerzej rozumianej algorytmicznej infrastrukturze, ale w potocznym dyskursie algorytm to Algorytm. Sprawiedliwe tech-bóstwo, które za dobre wynagradza, a za złe karze.

W artykule „Blessed by the algorithm”. Theistic conceptions of artificial intelligence in online discourse („Algorytm pobłogosławił”. Teistyczne koncepcje sztucznej inteligencji w dyskursie online) Beth Single analizuje twitterowy dyskurs na temat boskiej AI rządzącej pozornie przypadkowymi zdarzeniami w cyfrowym świecie. Większość badanych wpisów to świadectwa bycia pobłogosławionym bądź przeklętym – treścią w feedzie, ale i zleceniem w aplikacji pokroju Ubera czy Pyszne (klientem „mniej awanturującym się” czy po prostu pracą). Nie brak także porad. „Najwyraźniej spędzasz zbyt wiele czasu, przeglądając gówniane treści. Tylko najbardziej cnotliwi konsumenci mediów zostaną pobłogosławieni przez algorytm” – radzi komuś jeden z cytowanych twitterowiczów. To dość czytelna ironia, ale bogobojny stosunek do Algorytmu jest zjawiskiem coraz poważniejszym. O „epoce algorytmicznego lęku” (The Age of Algorithmic Anxiety) pisał w „The New Yorker” Kyle Chayka. „Oblężeni przez zautomatyzowane rekomendacje, jesteśmy zdani na zgadywanie, w jaki sposób na nas wpływają, czując się w niektórych momentach źle zrozumiani lub wprowadzeni w błąd, a w innych momentach oszołomieni niesamowitą precyzją” – charakteryzuje zjawisko, które za chwilę może się okazać powszechnym doświadczeniem.

Tymczasem za algorytmami nie stoją żadni bogowie, lecz rzesze ludzi – którzy bardzo często popełniają błędy. Problem „kodowania uprzedzeń”, mniej lub bardziej świadomego uczenia maszyn rasizmu, seksizmu, dyskryminacji ze względu na miejsce urodzenia to temat na osobną opowieść (pisze o tym Ewa Drygalska w tym numerze „Znaku”). W filmowej wersji przedstawiły ją autorki bardzo dobrego dokumentu zatytułowanego Coded Bias. O człowieczeństwie algorytmów warto pamiętać jednak nie tylko po to, by chronić się przed ryzykiem padnięcia ich ofiarą. Ta świadomość może dawać nadzieję. Jak przypominała podczas gali National Books Award Ursula Le Guin: „Żyjemy w kapitalizmie. Jego moc wydaje się nam nieunikniona. Ale tak samo było z boskim prawem królów. Każda ludzka władza może jednak być odparta i zmieniona przez człowieka”. Jeśli do słowa „kapitalizm” dołożyć epitet „nadzoru”, cytat pozostanie prawdziwy. Nasze życie codzienne z algorytmami może być lepsze.