Gdy na początku XXI w. zacząłem żeglować po internecie, wciąż jeszcze przypominał raczej archipelag niż świat wielkich platform-kontynentów. Dryfując na falach wyników wyszukiwarki Google, odwiedzałem atol gier LEGO i wyspy angielskiego futbolu. Nie interesowały mnie przyczyny, dla których pożądane przeze mnie strony unosiły się na powierzchni, inne zaś leżały zatopione w głębinach piątej czy piętnastej strony rezultatów. Najważniejsze było, że ktoś nawigował mnie do celu.
Na przełomie pierwszej i drugiej dekady XXI w. internet zaczął ulegać „platformizacji”, a ja znalazłem się w epicentrum ruchów tektonicznych. W nowych światach panowały nowe zasady. Zamiast dostarczać autorskie treści, platformy dystrybuowały wytwory kreatywności swoich użytkowników. Nowo powstała branża speców od mediów nazwanych społecznościowymi oferowała recepty na wiralność, gwarancje, że posty rozprzestrzeniać się będą po całym internecie. Pozornie nowoczesne panacea w składzie miały jednak raczej chleb z pajęczyną. Logika platform pozostawała tajemnicą. Systemy rekomendujące filmy na YouTube znikąd wzbogacały polszczyznę o frazy pokroju „daj kamienia” czy „jestem hardkorem”. Po wielkiej emigracji ze swojskiej Naszej Klasy na facebookową obczyznę kwitnąć zaczęły kariery wyrosłe na zasięgach podarowanych przez niewidzialną rękę wolnego postingu, mechanizmy zarządzające widocznością postów. A wolne szczeliny platformowych interfejsów niczym chwasty porastały reklamy, niepokojąc dokładnością, z jaką odzwierciedlały potrzeby i zachcianki.
Choć wiele z tych spraw niepokoiło, chciałem być częścią szumnie zapowiadanej „rewolucji web 2.0”. Ujścia twórczych popędów i popularności szukałem, głównie śmieszkując. Tworzone i współtworzone przeze mnie facebookowe profile radziły sobie nieźle, żarty z pozytywizmu (Pozytywistyczna wibracja) oraz mariaże polskiego malarstwa z rodzimym rapem (Sztuka Rymotwórcza) okazały się nośnymi konceptami. Kierowany ciekawością i ambicją, chciałem poznać arkana wiralności, czarować zasięgi, zrozumieć ukrytą logikę portali społecznościowych. Zacząłem uczyć się nazywać siły, których machinacje czułem dotąd podświadomie: algorytmy, profilowanie, kapitalizm nadzoru.
To historia mało spektakularna. Długo rozważałem, czy nie zacząć hitchcockowsko, od dojmującej opowieści o jednej z ofiar algorytmicznej dyskryminacji czy katastrofie wywołanej podjętą przez automat decyzją. Koncentracja na tych historiach może jednak tworzyć wrażenie, że bycie poddanym działaniu algorytmów to coś wyjątkowego, co przydarza się nielicznym. Chciałbym przeciwstawić się tej narracji. Nie trzeba dramatycznego olśnienia rodem z drogi do Damaszku czy filmów sióstr Wachowskich, by zdać sobie sprawę, że algorytmy wpisały się w rytm naszego życia.
Od Babilonu do Deep Blue
Zanim zaczniemy odcyfrowywać algorytmy, warto je najpierw „odcyfrowić”. Umieścić w szerszym planie, wykraczającym daleko poza powstanie internetu. „Algorytmy towarzyszą nam od zarania dziejów i istniały na długo przed tym, jak ukuto specjalne słowo do ich opisania – piszą we wstępie do książki A History of Algorithms: From the Pebble to the Microchip (Historia algorytmów. Od otoczaka do mikroczipa) jej autorzy. – Algorytmy to po prostu zestaw instrukcji krok po kroku, które należy wykonać w sposób dość mechaniczny, aby osiągnąć jakiś pożądany rezultat. (…) Babilończycy stosowali je do rozstrzygania zagadnień prawnych, nauczycielom łaciny służyły do prawidłowego stosowania gramatyki, a we wszystkich kulturach wykorzystywano je do przewidywania przyszłości, podejmowania decyzji o leczeniu czy przygotowywania posiłków. Każdy z nas używa dziś algorytmów tego czy innego rodzaju, często nieświadomie, gdy postępuje zgodnie z przepisem, korzysta z wzorów do robienia na drutach lub obsługuje domowe gadżety”.
Przez tysiące lat role w rozwijaniu nauki nazywanej dziś algorytmiką odegrali najwięksi matematycy w historii – od Euklidesa po Eulera. Wydaje się jednak, że najważniejszym wydarzeniem było pojawienie się na scenie dramatu aktora, by użyć określenia Brunona Latoura, „nieludzkiego”, a mianowicie komputera. Powszechnie przyjmuje się, że wprowadził go tam w 1936 r. Alan Turing, choć pamiętać należy także o XIX-wiecznych prekursorach: Charlesie Babbage’u, autorze koncepcji maszyny różnicowej, oraz Adzie Lovelace, pionierce programowania.
Dla Turinga komputerem był… człowiek. Miał on obsługiwać maszynę służącą do wykonywania algorytmów. Matematyk dopuszczał jednak, że w przyszłości czynnik ludzki może okazać się zbędny, a maszyna będzie obsługiwała siebie sama. Jak piszą autorzy A History of Algorithms: „Maszyna Turinga jest (…) formalizacją intuicyjnej idei tego, co robimy podczas wykonywania algorytmu obliczeniowego”. Abstrakcyjny początkowo koncept stał się kamieniem węgielnym dla rozwoju nie tylko algorytmiki, ale informatyki w ogóle. Wpływ angielskiego naukowca na współczesne algorytmy sięga jednak dużo głębiej. Jak wykazuje Paweł Łupkowski w pracy Turing’s 1948 „Paper Chess Machine” Test as a Prototype of the Turing Test („Papierowa maszyna szachowa” Turinga jako prototyp dla testu Turinga), eksperymenty Turinga z algorytmem do gry w szachy stanowiły wstęp do rozważań nad ideą sztucznej inteligencji i sformułowania słynnego testu Turinga. Polega on na rozmowie człowieka sędziego z maszyną. Jeśli ten pierwszy nie potrafi stwierdzić, czy ma do czynienia z istotą ludzką, maszyna przechodzi test. Sytuację gry w szachy z algorytmem uznać można za jego pierwowzór.
W 2012 r., z okazji 100. rocznicy urodzin Turinga, ze zrekonstruowaną wersją jego algorytmu noszącego nazwę „Turochamp” zmierzył się Garri Kasparow. Nie był to pierwszy raz, gdy rosyjski arcymistrz toczył pojedynek z nieludzkim przeciwnikiem. W 1997 r. stanął twarzą w ekran z superkomputerem Deep Blue. Przegrana „reprezentanta ludzkości” była wielkim wydarzeniem medialnym. Jak pisze Hannah Fry, autorka książki Hello world. Jak być człowiekiem w epoce maszyn, moment ten wyznaczył „początek epoki algorytmów”.
Cyfrowy moment dziejowy
O tym, że żyjemy w tej epoce, nie świadczy bynajmniej sama możliwość obcowania z coraz potężniejszymi algorytmami komputerowymi. Rozwój technologii idzie w parze z bezprecedensowymi zmianami społecznymi, które czynią nasze czasy wyjątkowymi.
Po pierwsze, wyjątkowa jest skala ingerencji algorytmów w codzienność. Jak pisze Fry: „Algorytmy, niewidzialne fragmenty kodu tworzące konstrukcję i mechanikę współczesnej ery maszyn (…), stanowią część naszej nowoczesnej infrastruktury na równi z mostami, budynkami i fabrykami” (tłum. S. Musielak). Zaprzęgnięcie maszyn do wykonywania złożonych zadań czyni liczne procesy sprawniejszymi, wydajniejszymi, dostępniejszymi, łatwiejszymi. Potężne algorytmy ułatwiają naukowczyniom dokonywanie naukowych odkryć, a melomanom amatorom – odkrywanie melodii w typie tych, które już słyszeli. Nawigują kontenerowce na Oceanie Indyjskim i konsumentów do najbliższej indyjskiej knajpy. Pomagają budować domy i profile ludzi na podstawie ich danych behawioralnych. Algorytmy, parafrazując pierwsze prawo technologii Kranzberga, nie są ani dobre, ani złe, nie są też neutralne – z pewnością jednak są wszędzie.
###banner###
Po drugie, wyjątkowa jest intensywność i samodzielność ingerencji algorytmów w nasz świat. Dziś nie tylko wspierają w podejmowaniu decyzji, ale też same ich dokonują. „Mowa tu zwłaszcza o algorytmach, które obracają najbardziej chodliwym towarem naszych czasów, a mianowicie: danymi – pisze Hannah Fry. – O algorytmach, które za cichym przyzwoleniem decydentów śledzą nas w internecie i gromadzą o nas informacje, ingerują w naszą prywatność i nas profilują – a wszystko po to, żeby subtelnie oddziaływać na nasze zachowania”. Efekty w pełni algorytmicznych deliberacji widzimy np., gdy na Facebooku wyświetla się nam reklama sklepu z AGD, w którym dzień wcześniej szukaliśmy ratujących przed skwarem wiatraków. Rozpatrując oferty reklamodawców i analizując nasze dane, mechanizm podjął decyzję, czym zapełnić przestrzeń na treści sponsorowane. Są jednak i bardziej dramatyczne przykłady. W projekcie Algorytmy traumy Fundacja Panoptykon opisywała historię młodej matki, której automaty Facebooka wyświetlały posty żerujące na jej lęku o zdrowie dziecka. Nikt nie zlecił algorytmom, by prześladowały kobietę – same nauczyły się, że taka taktyka najlepiej posłuży realizacji nadrzędnego celu: maksymalizacji zysków firmy.
Docieramy w ten sposób do trzeciego argumentu za wyjątkowością naszych czasów w sposobie wykorzystania algorytmów. Dopiero współcześnie stały się narzędziem nowego porządku ekonomicznego, „który uznaje ludzkie doświadczenie za darmowy surowiec do ukrytych handlowych praktyk wydobycia, prognozowania i sprzedaży” (tłum. A. Unterschuetz). Tak Shoshana Zuboff, autorka Wieku kapitalizmu inwigilacji, definiuje ukuty przez siebie termin „kapitalizm inwigilacji”. Opisana przez harwardzką profesorkę na ponad 800 stronach logika ekonomiczna nie mogłaby zaistnieć, gdyby nie rozwój potężnych algorytmów zdolnych kolekcjonować i przetwarzać ogromne ilości danych. Jej praca doczekała się interesujących krytyk, w tym książkowej, autorstwa Cory’ego Doctorowa, zatytułowanej How to Destroy Surveillance Capitalism (Jak zniszczyć kapitalizm nadzoru), a w dyskursie funkcjonują też inne ciekawe koncepcje, jak „kapitalizm platformowy” Nicka Srnicka. W środowisku badaczek cyfrowej gospodarki panuje jednak konsensus co do znaczenia algorytmów.
Kapitalizm nadzoru korzysta z wielu technologii, ale nie jest tożsamy z żadną z nich – tłumaczy Zuboff. – (…) Wytwarza algorytmy i się na nich opiera, ale nie jest tym samym co algorytmy. Wyjątkowe imperatywy ekonomiczne kapitalizmu nadzoru to właśnie bycie władcami marionetek, którzy zza kurtyny kierują maszynami i inicjują ich działania”. Atmosfera tajemnicy jest roztaczana z zamysłem. Służy temu choćby pełen metafor język używany przez przedstawicieli przedsiębiorstwa czy też podkreślanie w komunikacji złożoności oferowanych produktów.
Szczególne strategie utajniania dotyczą stosowanych przez cyfrowe przedsiębiorstwa algorytmów. Frank Pasquale, autor książki The Black Box Society. The Secret Algorithms that Control Money and Information (Społeczeństwo czarnych skrzynek. Tajne algorytmy, które kontrolują pieniądze i informacje), opisuje w niej trzy główne rodzaje działań służących trzymaniu algorytmicznych czarnych skrzynek zamkniętych na klucz. Utajnianie rzeczywiste polega na stawianiu fizycznych lub cyfrowych barier dostępu do ich sekretów. Utajnianie prawne to tworzenie barier umowami i ustawami. Wreszcie zaciemnianie zawiera w sobie wszystkie praktyki podejmowane wówczas, gdy czarnej skrzynce grozi otwarcie – od bagatelizowania jej zawartości po chowanie kluczowych informacji w stosach dokumentacji.
To problem, bo bez przejrzystości algorytmów jesteśmy zdani na ich łaskę i niełaskę. Jak przypomina Pasquale, „(…) władza coraz częściej sprawowana jest algorytmicznie. Decyzje, które niegdyś opierały się na ludzkiej refleksji, są dziś wykonywane automatycznie”.
Jako będący do dziś w użytku pierwowzór współczesnych czarnych skrzynek wskazuje mechanizmy określania zdolności i wiarygodności kredytowej. Dyskryminacja kredytobiorców była problemem już w rzeczywistości analogowej. Wpisana w chroniony kod przetwarzający błyskawicznie ogromne ilości danych i rozstrzygający tysiące spraw, stała się zagrożeniem na niespotykaną wcześniej skalę. Zautomatyzowane uprzedzenia kosztują rzesze ludzi własny dom czy samochód, kształtując ich przyszłość.
Mroczne wnętrza czarnych skrzynek
Władzę sprawują także prywatne przedsiębiorstwa. Kontrolując narzędzia wyszukiwania i dystrybucji treści, nadzorują przepływy informacji. Znane jest choćby zjawisko baniek filtrujących, powodowanego przez algorytmy efektu zamykania nas w obrębie już znanych i odpowiadających nam źródeł wiadomości. Dominacją w obszarze reklamy wywierają wpływ na handel, usługi, a nawet politykę. Nic więc dziwnego, że – według danych Wesleyan Media Project – w ostatnich wyborach prezydenckich w USA obaj kandydaci wydali na cyfrowy marketing ponad 150 mln dolarów, zaś sam Trump – więcej niż na jakiekolwiek inne medium. Cyfrowi giganci kształtują także kulturowe trendy, narracje i dyskursy. Algorytm TikToka wskrzesza popularność muzycznych hitów sprzed lat i tworzy wciąż nowe, a Twitterowa sekcja trendów nie tylko odzwierciedla temat dnia, ale i decyduje, co nim jest. A wszystko to platformy starają się czynić w największym sekrecie.
Mimo to w ostatnich latach na…
