Na pytanie: „Co robisz?”, chyba każdy odpowiedział nieraz: „Nic”, kiedy zdecydowanie chodziło o dokuczliwie realne coś, co – z jakichkolwiek powodów – lepiej było przemilczeć. To właśnie w tym przemilczanym „nic” kryje się nasza prywatność – bastion, który dziś, powtarzając, że „nie mamy nic do ukrycia”, często oddajemy walkowerem. Pozwalamy tym samym na bezwzględne „nicowanie” naszego życia, w którym korporacyjne algorytmy wywracają codzienność na cyfrową podszewkę i kolonizatorsko szukają zysku tam, gdzie jeszcze do niedawna mogliśmy liczyć na intymność.
Nicowanie świata
Rozmowę Francisa Forda Coppoli otwiera scena, w której mim śledzi nieświadomych przechodniów i imituje ich gesty. Osią fabuły są technologie i obsesja nadzoru, a film miał premierę u szczytu afery podsłuchowej Watergate w 1974 r. i doskonale uchwycił ówczesną atmosferę społecznej paranoi. Pół wieku później mim z Rozmowy wydaje się proroczą metaforą działania big techu – wielkich korporacji, które obserwują nas z dystansu, uczą się naszych ruchów i naśladują nas tak perfekcyjnie, że z czasem zaciera się granica między oryginałem a cyfrową kopią.
Dawny aparat inwigilacji, choć jego pole manipulacji było szerokie, skupiał się na utrzymaniu władzy i na kontroli obywatela w relacji z państwem. Dzisiejszy nadzór ingeruje w to, co najbardziej osobiste. „Nic” do ukrycia nie jest pustką – to rezerwuar niepewności, ryzyka, kontrowersji czy kreatywności. To przestrzeń ex nihilo, w której możemy popełniać błędy bez świadków.
Tym bardziej szkoda, że to nasze „nic” jest dziś hurtowo wydobywane na powierzchnię, porządkowane w tabelach, wyceniane i odsprzedawane dalej. Obecnie cyfrowy nadzór utrwalił już w zbiorowej wyobraźni metaforę panoptykonu, która ułatwia zrozumienie skali algorytmicznego nicowania rzeczywistości. Panoptykon to XVIII-wieczna wizja Jeremy’ego Benthama – projekt więzienia idealnego, w którym centralna wieża strażnicza góruje nad oświetlonymi celami. Więzień nigdy nie wie, czy w danej chwili ktoś na niego patrzy, więc musi zakładać, że jest obserwowany nieustannie. W Nadzorować i karać Michel Foucault dostrzegł w panoptykonie charakterystykę nowoczesnego społeczeństwa. Dzięki technologiom XXI w. dzisiaj „wieża” nigdy nie jest pusta.
Od lat krąży cyniczne porzekadło: „Jeśli nie płacisz za produkt, sam jesteś produktem”. Shoshana Zuboff w głośnej pracy Wiek kapitalizmu inwigilacji rewiduje to myślenie. Bycie produktem sugerowałoby, że zachowujemy resztki podmiotowości. W nowym porządku ekonomicznym spadliśmy jednak niżej, bo do rangi „złóż surowca”.
Kapitalizm nadzoru jednostronnie rości sobie prawo do ludzkiego doświadczenia jako darmowego materiału do przekształcenia w dane. Jesteśmy jak słoń, z którego kłusownicy wycinają ciosy. Ciosy – czyli nasze dane behawioralne, emocje, a nawet sposób poruszania myszką – są cenne, a samo zwierzę jest zbędne.
Cel to tworzenie produktów predykcyjnych. Prawdziwymi klientami platform są reklamodawcy i korporacje, którzy kupują nie nasze dane, tylko naszą przyszłość – możliwie najbardziej trafne prognozy dotyczące tego, co zrobimy (jakie kupimy leki, czy i kiedy zmienimy pracę, na kogo zagłosujemy, gdzie pojedziemy na wakacje).
Zuboff ostrzega, że ambicje tego systemu wykraczają poza samą obserwację. Chodzi o modyfikację zachowania. Władza, którą autorka nazywa instrumentarianizmem, nie chce nas złamać bólem (jak totalitaryzm), lecz nastroić nas i popchnąć w pożądanym kierunku. Za przykład niech posłuży gra Pokémon GO, która w optyce kapitalizmu nadzoru z niewinnej rozrywki zamienia się w eksperyment behawioralny na masową skalę. Gracze, pod pretekstem łapania wirtualnych stworów, byli fizycznie „zaganiani” do lokalizacji sponsorów (McDonald’s, Starbucks).
Jednocześnie historia dostarcza mrocznych dowodów na to, że gromadzenie danych nawet „na wszelki wypadek” to proszenie się o katastrofę. Carissa Véliz w książce Privacy is Power nazywa dane osobowe „azbestem ery cyfrowej”. Przywołuje wstrząsającą statystykę z czasów II wojny światowej: w Holandii, która dysponowała perfekcyjnym rejestrem ludności (z danymi o wyznaniu), naziści wymordowali 73% populacji żydowskiej. We Francji, gdzie panował biurokratyczny nieład, zginęło trzykrotnie mniej Żydów. Demokratyczne państwo budujące infrastrukturę nadzoru tworzy broń. Wystarczy, że władzę przejmie autokrata, by z łatwością uruchomił machinę terroru.
Współczesnym sygnałem ostrzegawczym jest w tym kontekście los Ujgurów w prowincji Sinciang, opisywany jako życie w cyfrowym gułagu. Kody QR na drzwiach domów, przymusowe pobieranie DNA i skanowanie tęczówek służą tam algorytmicznej predykcji różnie definiowanej „nielojalności”.
Nominalnie demokratyczny Zachód nie pamięta zaś, że po zbrodniach II wojny światowej przyjął Kodeks Norymberski ustalający żelazną zasadę medycyny: żadnych eksperymentów na ludziach bez ich świadomej zgody. Sfera cyfrowa do tych standardów nie dorosła. Big tech codziennie przeprowadza na miliardach użytkowników eksperymenty psychologiczne (w tym np. manipulując treściami w news feedzie, by sterować nastrojem), traktując nas jak króliki doświadczalne. To, co w medycynie byłoby złamaniem praw człowieka, w Dolinie Krzemowej nazywa się „optymalizacją zaangażowania”.
Co więcej, dziś główni technologiczni gracze już nawet nie ukrywają swoich inwigilacyjnych zakusów. Larry Ellison, właściciel Oracle, jednej z największych firm bazodanowych, otwarcie postuluje stworzenie zintegrowanego systemu nadzoru. Obywatele byliby monitorowani przez AI w czasie rzeczywistym, by „utrzymać porządek”. Alex Karp, szef firmy Palantir, tworzącej oprogramowanie analityczne dla wojska i dla wywiadu, promuje natomiast tezę, że w obliczu zagrożenia ze strony Chin i Rosji zachodnie społeczeństwa muszą zaakceptować głęboką inwigilację jako cenę za bezpieczeństwo i za dominację technologiczną.
Nic dziwnego, że Carissa Véliz apeluje o powrót do fundamentów: art. 12 Powszechnej Deklaracji Praw Człowieka. Przypomina, że prywatność to prawo chroniące inne prawa. Bez niej wolność słowa i wolność zgromadzeń stają się fikcją. Véliz konkluduje, że dane należy traktować jak materiał toksyczny – zbierać tylko to, co niezbędne, i utylizować natychmiast po użyciu. Inaczej nasze „nie mam nic do ukrycia” może się stać epitafium wolnego społeczeństwa.
Gra w „Simsy”
Skoro nasze życie zostało utowarowione, to kto czerpie z tego zysk? Mechanizm ten przypomina popularną grę The Sims. W tym symulatorze życia zarządza się wirtualnymi postaciami (karierą, relacjami, a nawet zaspokajaniem potrzeb fizjologicznych). Korporacje technologiczne wchodzą dziś w rolę takiego gracza demiurga, a my, często nieświadomie, stajemy się marionetkami realizującymi cudzy scenariusz. Do świata gier sięgnijmy także po pojęcie NPC (ang. non-player character) oznaczające postać tła, sterowaną przez komputer. W cyfrowym ekosystemie to my, użytkownicy, jesteśmy sprowadzani do roli NPC-ów – statystów we własnym życiu, których zachowania są „optymalizowane” pod dyktando algorytmów.
Być może najbardziej niepokojącą wizją tego, dokąd zmierza inwigilacja, jest ujawniona po wycieku danych w 2018 r. koncepcja „Samolubnego Rejestru” (ang. The Selfish Ledger), która narodziła się wewnątrz Google’a. Ten eksperyment myślowy stworzył Nick Foster, szef działu designu w Google X. Swoją wizję oparł na biologicznej metaforze lamarckowskiej epigenetyki. Biologia odrzuciła tezy Lamarcka o dziedziczeniu cech nabytych – żyrafa nie będzie miała dłuższej szyi tylko dlatego, że jej matka wyciągała ją do liści. W świecie cyfrowym Lamarck mógłby mieć jednak rację. Tutaj nasze decyzje i nawyki są trwale zapisywane i „dziedziczone” przez algorytmy, wpływając na kształtowanie przyszłych użytkowników. Tytuł projektu to z kolei czytelne nawiązanie do idei „samolubnego genu” Richarda Dawkinsa. Zgodnie z tą analogią tak jak biologiczne ciała są dla genów jedynie wehikułami służącymi replikacji, tak w ujęciu Fostera my przestajemy być właścicielami danych. Stajemy się jedynie ich tymczasowymi kustoszami i nośnikami wzorców informacji, a Rejestr zyskuje swoistą „wolę” i cel: przetrwanie i ewolucję.
Przez dekady informatyką rządziło projektowanie zorientowane na użytkownika, który finalnie sam podejmuje decyzje. „Samolubny Rejestr” sam mógłby wyznaczyć cel – np. walkę z ubóstwem czy z depresją na poziomie całego gatunku – i subtelnie modyfikować zachowanie jednostki, by ten cel osiągnąć. Jeśli algorytm uzna, że w Rejestrze brakuje danych o reakcji ludzi na stres w określonych sytuacjach, może celowo nas irytować lub niepokoić, by uzyskać informacje wypełniające lukę w modelu. Choć Google oficjalnie odciął się od tego projektu, nazywając go jedynie „prowokacją intelektualną”, to, co brzmiało jak cyberpunkowa dystopia, staje się modelem biznesowym. Za sprawą firm takich jak Palantir czy wskutek wdrażania zaawansowanych modeli AI sekwencjonowanie behawioralne, czyli rozkładanie naszych zachowań na podstawowe elementy budulcowe w celu ich późniejszej modyfikacji, nie wydaje się dzisiaj niemożliwe.
Ta „gra w ludzi” bywa wyjątkowo inwazyjna i odarta z empatii. Carissa Véliz ostrzega, że Internet Rzeczy (IoT) ewoluuje w siatkę szpiegowską. Współczesne samochody poprzez czujniki w fotelach mogą monitorować wagę pasażerów i tworzyć profile zdrowotne dla ubezpieczycieli. Inteligentne termometry gromadzą dane o gorączce sprzedawane reklamodawcom, zanim chory pomyśli o wizycie u lekarza. Jesteśmy towarem dla brokerów danych, którzy handlują wiedzą o takich grupach jak „ofiary gwałtu” czy „osoby uzależnione od alkoholu”, żerując na ludzkim nieszczęściu.
Kiedy w USA poszczególne stany zaostrzyły niedawno prawo aborcyjne, okazało się, że dane z aplikacji śledzących cykl menstruacyjny mogą posłużyć prokuratorom do udowodnienia przerwania ciąży. Nasza fizjologia z intymnego zapisu stała się potencjalnym dowodem w sprawie karnej. Z kolei aplikacja fitness Strava, publikując w sieci mapy aktywności biegaczy, niechcący ujawniła położenie tajnych baz wojskowych – żołnierze po prostu biegali wokół nich z włączoną funkcją lokalizacji.
Teologia nadzoru
Za tworzeniem narzędzi masowego nadzoru stoją jednak nie tylko chłodne kalkulacje zysku, ale też otwarcie wyrażane lęki… biblijne. Laura Bullard w artykule dla magazynu „Wired” stawia tezę, że aby zrozumieć współczesną inwigilację, musimy przyjrzeć się obsesji jednego człowieka na punkcie… Antychrysta. Chodzi o Petera Thiela, współzałożyciela PayPala i twórcę wspomnianej firmy Palantir.
Analiza tekstów i wystąpień Thiela ujawnia, że Palantir nie powstał jako zwykły start-up. Jest to w istocie teologiczny projekt polityczny. Thiel, intelektualny wychowanek francuskiego filozofa René Girarda, oparł swoje imperium na jego teorii mimetycznej. Według Girarda gdy człowiek zaspokoi podstawowe potrzeby biologiczne, nie wie, czego chce. Zaczyna więc obserwować innych i naśladować ich pragnienia.
To właśnie ta diagnoza pchnęła Thiela w 2004 r. do zainwestowania w Facebooka, który jawił mu się jako idealna „maszyna mimetyczna” – globalne lustro ukazujące użytkownikom pragnienia ich znajomych, co nakręca spiralę rywalizacji i zazdrości. W interpretacji krytyków Thiel postrzegał media społecznościowe jako narzędzie do „ukierunkowywania mimetycznej przemocy” – cyfrową arenę, na której destrukcyjna energia tłumu zostaje przekierowana w bezpieczne kliknięcia i jednocześnie pozostaje pod ścisłą kontrolą algorytmu.
Obok Facebooka Thiel inwestuje w nadzór totalny. W eseju The Straussian Moment wprost deklaruje, że amerykański system demokratycznej kontroli i równowagi w trójpodziale władzy stanowi przeszkodę dla skutecznego działania w obliczu zagrożeń. Zamiast demokratycznych instytucji, takich jak ONZ, zaproponował alternatywę: tajną koordynację służb wywiadowczych wspieraną przez „supersystem nadzoru”. Architekt współczesnych systemów bezpieczeństwa od samego początku projektował je tak, by były odporne na wolę wyborców, sądów czy parlamentów.
Sedno „teologii politycznej” Thiela tkwi w jego panicznym lęku przed apokalipsą. W jego wizji świata kluczowa jest biblijna koncepcja katechona – siły powstrzymującej nadejście Antychrysta i czasy ostateczne. Dla Carla Schmitta, nazistowskiego prawnika, którym Thiel się inspiruje, katechonem mógł być wiadomy dyktator. Dla Thiela staje się nim, przykładowo, technologiczny panoptykon.
Paradoks polega na tym, że poprzez budowę narzędzia władzy absolutnej Thiel może wręczać broń temu, kogo najbardziej się lęka. Antychryst jest bowiem w jego teologii siłą dążącą do fałszywej unifikacji świata pod hasłem „pokoju i bezpieczeństwa”. Kiedy rządy – w tym polski – podpisują umowy z firmami takimi jak Palantir, nie kupują tylko oprogramowania. Wpuszczają również do systemu nerwowego państwa technologię, która została zaprojektowana z intencją ominięcia demokratycznych bezpieczników i z mesjanistycznymi lękami oraz ambicjami.
Prawo do bycia nieprzewidywalnym
W debatach o cyfrowym nadzorze zdanie: „Nie mam nic do ukrycia”, wiele osób wypowiada z rezygnacją, a czasem – wręcz z dumą. Pytanie tylko, czy zazwyczaj nie oznacza ono: „Nie mam nic do powiedzenia”. Można chyba zasadnie doszukiwać się tutaj deklaracji konformizmu – jeśli nasze myśli i zachowania są normatywnie wygładzone, nie wymagają cienia prywatności.
Dla Christophera Hitchensa, autora Listów do młodego kontestatora, istota niezależnego umysłu nie leży w tym, co się myśli, ale jak się myśli. Prywatność jest przestrzenią laboratoryjną dla wszelkiego rodzaju dysydentów i uciekinierów spod algorytmicznej sztancy. To właśnie w prywatnej sferze uczymy się dystansu, ironii i zwykłej niezgody. Tam najłatwiej ćwiczyć krytyczne myślenie. Przypomnijmy sobie strategię życia „jak gdyby”, którą Hitchens przywołuje za Václavem Havlem. XX-wieczni dysydenci w bloku wschodnim decydowali się żyć tak, jak gdyby byli wolnymi obywatelami, ignorując absurdy antyludzkiego reżimu. Było to możliwe tylko dlatego, że posiadali sferę, do której władza nie miała dostępu – sferę prywatnych myśli, zaufanych kręgów i niepodsłuchiwanych rozmów. Gdy mówimy: „Nie mam nic do ukrycia”, dobrowolnie burzymy mury tej twierdzy.
Kiedy następnym razem usłyszysz, że uczciwi obywatele nie mają nic do ukrycia, pamiętaj: to nie jest kwestia uczciwości, tylko tego, czy masz odwagę (i prawo) posiadać własne, wymykające się katalogowaniu „ja”. Jeśli nie masz nic do ukrycia przed systemem, to najprawdopodobniej system już dawno wymyślił cię za ciebie.
Metaforyczną różnicę między życiem ujętym w karby systemu a wolnością najlepiej zobrazować z lotu ptaka. Kiedy patrzymy na zdjęcie satelitarne chorwackiej wyspy Baljenac – 23 km murów wzniesionych rękami rolników, by chronić uprawy przed wiatrem – ulegamy pareidolii i widzimy gigantyczny kamienny odcisk palca rzucony na granat Adriatyku. Baljenac jest niezamieszkana – to pomnik minionego wysiłku, skamieniała baza danych. Czy nie tak wygląda ostateczny cel systemów nadzoru? Okiełznać chaos, zamknąć go w sztywnych murach predykcji.
Ludzka natura przypomina raczej zjawisko z antypodów tej statyczności – dynamiczne wzorce ruchu stad tysięcy ptaków, które poeta Richard Wilbur nazwał „pijanym odciskiem palca na niebie”. Nauka opisuje to zjawisko, podobnie jak ławicowanie ryb czy rojenie się owadów, jako triumf samoorganizacji i emergencji. Zamiast centralnego dowodzenia mamy błyskawiczną reakcję na ruchy sąsiadów. Współczesne algorytmy big data desperacko próbują nałożyć na żywy organizm sztywne ramy – wtłoczyć „pijany odcisk palca” w kamienne mury Baljenac.
Współcześni luddyści
Pora porzucić naiwne przekonanie, że mamy do czynienia jedynie z nowym modelem biznesowym. Nick Couldry i Ulises A. Mejias w książce Data Grab stawiają tezę znacznie bardziej radykalną: to powtórka z historii, tyle że statki konkwistadorów zostały zastąpione przez serwerownie, a my żyjemy w epoce kolonializmu danych. Dawne imperia opierały się na micie ziemi niczyjej, którą można zająć. Dziś Dolina Krzemowa operuje na zasadzie „życia niczyjego”. Cyfrowe imperium zasysa wartość z peryferii (naszych domów) do centrum (korporacyjnych baz danych).
Szczęśliwie Data Grab jest przede wszystkim podręcznikiem oporu. Autorzy argumentują, że indywidualna ochrona prywatności (jak „ustawienia plików cookie”) nie wystarczy. Aby rzucić wyzwanie nowej formie wyzysku, musimy sięgnąć do strategii ruchów antykolonialnych i wyobrazić sobie nowe formy solidarności. Na kartach książki pojawiają się konkretne historie buntu, które dają nadzieję. Widzimy pracowników dorywczych (kierowców, kurierów), którzy organizują się przeciwko algorytmicznemu zarządzaniu przez aplikacje decydujące o ich zarobkach. Widzimy wyborców wymuszających zakazy stosowania technologii rozpoznawania twarzy przez policję. Najciekawszym i najbardziej doniosłym przykładem jest jednak walka społeczności marginalizowanych, w tym ludności rdzennej. Couldry i Mejias przywołują koncepcję suwerenności danych (np. wśród Maorysów czy rdzennych Amerykanów). Grupy te, nauczone przez bolesną historię, że „dzielenie się” z mocarstwem kończy się grabieżą, odmawiają przekazywania danych w ręce big techu – budują własne rozwiązania.
Skoro dziś routery wi-fi mogą mapować obecność osób w pomieszczeniach niemal jak kamery, nasze telefony są potencjalnymi podsłuchami (co umożliwia głośny medialnie system Pegasus), a Palantir odnosi spektakularne sukcesy giełdowe – czy prywatność w sensie technologicznym jeszcze w ogóle istnieje, czy jest już tylko prawną fikcją? Michał „rysiek” Woźniak, ekspert ds. bezpieczeństwa wywodzący się ze środowiska hakerskiego, odpiera ten fatalizm argumentem ekonomicznym: gdyby prywatność była martwa, giganci technologiczni nie wydawaliby milionów euro na lobbing, by rozmontować chroniące ją prawo. Walka trwa, okopy są głębokie.
Woźniak podpowiada też rozwiązania techniczne – sam używa routera z otwartym oprogramowaniem, które może kontrolować, co uniemożliwia mapowanie domowników. W ostatecznym rozrachunku zadecyduje popyt, bo im więcej osób będzie domagać się urządzeń szanujących prywatność, tym chętniej rynek je dostarczy. Ekspert proponuje, byśmy w poszukiwaniu inspiracji cofnęli się do początków rewolucji przemysłowej i zrehabilitowali pojęcie luddysty. Wbrew obiegowej opinii luddyści nie byli prymitywnymi technofobami niszczącymi maszyny ze strachu. Często sami je obsługiwali i ulepszali. Walczyli nie z techniką, lecz z jej dehumanizującym wykorzystaniem przez kapitał do „przemeblowania rynku pracy” kosztem ludzi. Analogia narzuca się sama: XIX-wieczni tkacze bronili się przed fabrykantami, a my bronimy się przed ich cyfrowymi następcami. Nie walczymy z postępem, tylko o elementarną godność.
Jak ten nowoczesny „luddyzm” wygląda w praktyce? Woźniak wyjaśnia, że w ekosystemie zaprojektowanym przez inwigilatorów wygoda niemal zawsze oznacza kapitulację. Dlatego odradza komercyjne VPN-y (których zapewnieniom o braku logów – rejestrowania wszystkich działań – nie ufa) i wskazuje na komunikator Signal jako złoty standard, deklasujący inne aplikacje. Zaleca „cyfrową ucieczkę” z ekosystemu Google’a w stronę otwartego oprogramowania (np. F-Droid) i przeglądarek takich jak Firefox, które – w przeciwieństwie do Chrome’a – pozwalają na skuteczne blokowanie śledzenia. Jeśli chodzi o media społecznościowe – proponuje narzędzia z obszaru Fediverse’a, w którym można znaleźć zdecentralizowane odpowiedniki największych platform (Twittera, Instagrama, YouTube’a itd.).
„Nie bójmy się, że rezygnacja z najpopularniejszych platform sprawi, że stracimy kontakt ze znajomymi, tylko bądźmy tą osobą, dla której znajomi zainstalują alternatywne narzędzie” – zachęca Woźniak.
Opór może przybrać też formę cyfrowej partyzantki lub artystycznej prowokacji. Słynne zdanie Williama Gibsona z opowiadania Wypalić chrom – „ulica znajdzie dla rzeczy własne zastosowanie” – zyskało nie tak dawno namacalne znaczenie podczas protestów w Hongkongu. Demonstranci, walcząc z technologiczną przewagą policji, zaadaptowali zwykłe wskaźniki laserowe do roli tarczy antyinwigilacyjnej, skutecznie oślepiając kamery i myląc systemy rozpoznawania twarzy. Gdy obrazy te obiegły świat, sam ojciec cyberpunka potwierdził na Twitterze, że ta oddolna, kreatywna adaptacja dostępnych narzędzi jest dokładnie tym, co miał na myśli, pisząc o nieprzewidywalnej naturze technologii w rękach zdesperowanych użytkowników. Skoro system karmi się naszymi danymi, możemy go też „zatruć” – narzędzia takie jak AdNauseam czy TrackMeNot generują w tle fałszywy szum – klikają w reklamy, których nie widzimy, i wpisują frazy, których nie szukamy.
To prosty sabotaż na poziomie danych: skoro nie da się zniknąć z systemu, można przynajmniej tak celowo go zaśmiecić, żeby nasz profil stał się dla algorytmu bezużyteczny. Z kolei artysta Jip van Leeuwenstein zaprojektował maskę Surveillance Exclusion, która dla ludzkiego oka jest przezroczysta, ale dla algorytmów stanowi barierę (zakrzywia światło i deformuje geometrię twarzy). Nawet odpowiedni makijaż czy fryzura (tzw. CV Dazzle) mogą zmylić system. Efektywność tych metod jest oczywiście dyskusyjna lub tymczasowa, ale pełnią one ważną funkcję performatywną. Woźniak przywołuje tu historyczną analogię: tak jak opornik w klapie marynarki był w czasach PRL symbolem oporu i pozwalał rozpoznać się „swoim”, tak dziś antynadzorczy „kamuflaż” może być symbolem niezgody na wszechobecną inwigilację.
Nie stać się „cyfrową biomasą”
Niestety, nadzór wpuszczamy też do swojego życia sami. Przykładami mogą być choćby wirtualni asystenci czy smart TV, a big tech już projektuje kolejne gadżety (np. sekretny projekt tworzony dla OpenAI przez Jony’ego Ive’a, słynnego projektanta produktów Apple’a), które mają być jeszcze bardziej inwazyjnymi oknami na świat danetyzowany w celu szkolenia systemów AI. Woźniak proponuje radykalny, konsumencki bojkot. Przekonuje, że nie musimy kupować „inteligentnej” lodówki czy pralki z AI – urządzenia te bez podłączenia do sieci działają równie dobrze, a często lepiej, ponieważ są wtedy odporne na awarie serwerów producenta. Da się uciec od inwigilacji, jeśli prywatność traktuje się serio. Woźniak ostrzega przy tym, by nie wierzyć zapewnieniom producentów co do ochrony danych. Przykład Amazona, który przestał respektować ustawienia blokujące przesyłanie nagrań głosu, pokazuje, że zaufanie do big techu to naiwność. Ekspert zaznacza jednak, że sam rynek problemu nie rozwiąże – konieczne są regulacje i rozbicie monopoli. Lecz zanim to nastąpi, naszą bronią są codzienne wybory i odmowa zakupu urządzeń, które nas śledzą.
Jowita Michalska, prezeska Digital University i ekspertka w dziedzinie edukacji i nowych technologii, podkreśla, że w tej nierównej walce z systemami nadzoru ryzyka można zniwelować tylko poprzez edukację, najlepiej od najmłodszych lat. W zakresie kształcenia młodzieży Michalska stawia na pobudzającą wyobraźnię metaforę „cyfrowego tatuażu” – uświadamianie, że ślad zostawiony w sieci jest trwały i trudny do usunięcia. Zamiast uczenia teorii zaleca eksperymenty na żywym organizmie: np. „detoks zgód” w ustawieniach aplikacji czy celowe polubienia przez tydzień tylko jednego ograniczonego tematu, by na własne oczy zobaczyć, jak algorytm manipuluje naszym widzeniem świata.
Osobnym obszarem jest prywatność dzieci. Często sprowadzamy ten problem do tego, czy rodzic bezrefleksyjnie publikuje zdjęcia z wakacji na Facebooku czy na Instagramie. Jowita Michalska ostrzega, że to jedynie patrzenie na wierzchołek góry lodowej. Prawdziwym zagrożeniem jest niewidzialna, systemowa danetyzacja dzieciństwa. Ekspertka, przywołując badania Veroniki Barassi, zauważa, że korporacje budują „cyfrowe sobowtóry” naszych dzieci jeszcze przed ich narodzinami – zaczynając od danych z aplikacji ciążowych, przez inteligentne zabawki i systemy monitorowania (wszelkie wirtualne „nianie”), aż po gry mobilne (tylko pozornie darmowe), asystentów głosowych i – często obowiązkowe – platformy szkolne. Dziecko wchodzi w dorosłość de facto z gotową teczką w chmurze – teczką, której nigdy nie autoryzowało.
Co w tej sytuacji może zrobić rodzic? Michalska apeluje o radykalny „minimalizm wizerunkowy” (i dawanie w tym zakresie przykładu samemu) oraz o zmianę myślenia o darmowych usługach (jeśli da się zapłacić pieniędzmi, róbmy to, zamiast płacić prywatnością dziecka). Kluczowa jest jednak edukacja: o danych należy rozmawiać tak samo jak o granicach ciała. Dziecko musi wiedzieć, że jego cyfrowy ślad to jego własność. „Jeśli wrzucam twoje zdjęcie, masz prawo powiedzieć »nie«” – to zdanie buduje poczucie sprawczości. Choć walka z sharentingiem nie zatrzyma algorytmów, jest czymś więcej niż listkiem figowym – to fundament budowania języka praw dzieci w cyfrowym świecie i ochrona przed przyszłością, w której dorosły człowiek musi mierzyć się z tożsamością stworzoną bez jego zgody i potencjalnie wykorzystywaną do nadużyć i do profilowania (np. pod kątem kredytów czy reklam).
Indywidualna partyzantka to jednak za mało. Katarzyna Szymielewicz, prezeska Fundacji Panoptykon, podkreśla, że zmiana wymaga synergii trzech sił: świadomego obywatela, odważnego państwa i twardego prawa. Unia Europejska lubi stawiać się w roli globalnego lidera cyfrowych regulacji, a Akt o usługach cyfrowych (DSA) miał być batem na gigantów technologicznych. Czy to jednak tylko biurokratyczny kolos na glinianych nogach? Szymielewicz nie ma wątpliwości, że UE zmienia reguły gry jak najbardziej realnie. Jak zauważa ekspertka, po raz pierwszy platformy zostały potraktowane nie jak zwykły podmiot rynkowy, lecz jako „biznes wysokiego ryzyka”, który zagraża prawom człowieka, procesom demokratycznym i ludzkiemu dobrostanowi. Bruksela mówi „sprawdzam”, grożąc sankcjami – łącznie z zawieszeniem usług – na które, zdaniem Szymielewicz, „nie stać nawet big techu”.
Czy jednak Europa, pod presją lobbystów cyfrowych (wydających rekordowe 151 mln euro rocznie), geopolitycznej siły amerykańskich korporacji pod rządami Donalda Trumpa i wyścigu zbrojeń AI, poświęca prywatność na ołtarzu „innowacyjności”? Niepokojące sygnały z Brukseli o pakiecie deregulacyjnym „Digital Omnibus” i możliwym rozwadnianiu RODO nie są tylko plotką. Szymielewicz potwierdza, że widzi to zagrożenie, i otwarcie apeluje do polskich polityków o powrót do ostrego kursu wobec big techu, jaki wyznaczyła poprzednia Komisja Europejska. Obecna kadencja przynosi jednak niebezpieczną odwilż. To, co brukselscy urzędnicy sprzedają jako „uproszczenie prawa”, w ocenie szefowej Panoptykonu wygląda na próbę podkopania fundamentów ochrony danych w UE. Wtóruje jej Woźniak: „Podobnie jak nie przywrócimy prywatności raz udostępnionym danym, tak na poziomie legislacyjnym raz rozmontowanych regulacji dotyczących prywatności nie da się łatwo »od-rozmontować«”.
Kluczowym postulatem Szymielewicz jest redefinicja tego, co nazywamy inwestycją w cyfryzację. Do tej pory rozumieliśmy to jako budowę infrastruktury – światłowodów i masztów. Prawdziwa władza nad informacją leży wyżej. Potrzebujemy publicznej infrastruktury usługowej: własnych chmur obliczeniowych, protokołów i algorytmów AI, które wspierałyby edukację czy ochronę zdrowia, nie służąc inwigilacji ani zyskowi. Jako dowód, że to możliwe, Szymielewicz wskazuje na Francję, gdzie rząd wraz z partnerami inwestuje setki milionów (m.in. w inicjatywę Current AI) w technologię „otwartą, godną zaufania i służącą interesowi publicznemu”.
Europa, mimo lobbingu gigantów, próbuje wyznaczyć tu „trzecią drogę” między chińskim autorytaryzmem a amerykańskim korporacjonizmem. Szymielewicz wskazuje na potężny, choć wciąż nieprzetestowany w pełni potencjał pozwów zbiorowych (jak w przypadku Maxa Schremsa) i buntu konsumenckiego. Schrems, austriacki prawnik, pozwał Facebooka i doprowadził do obalenia transatlantyckich umów o transferze danych. Dopóki nie zaczniemy traktować prywatności jako prawa zbiorowego i nie wymusimy na politykach budowy niezależnej infrastruktury cyfrowej, pozostaniemy jedynie – jak to dosadnie określa Szymielewicz – „cyfrową biomasą”.
Sonata o dobrym algorytmie
Brutalną diagnozę rzeczywistości stawia także brytyjski dokument Wymazać Davida z 2010 r. Reżyser David Bond postanowił zniknąć, by sprawdzić, czy ucieczka przed systemem jest jeszcze możliwa. Ścigali go prywatni detektywi, ale prawdziwym wstrząsem nie był sam pościg, lecz moment, w którym Bond – korzystając z prawa dostępu do danych – otrzymał całe segregatory pełne informacji, które legalnie zgromadziły na jego temat korporacje i urzędy. Najmocniejszy komentarz w filmie pada jednak z ust Jörga Drieselmanna, dyrektora Muzeum Stasi w Berlinie i ofiary wschodnioniemieckiego aparatu represji. Drieselmann nie kryje zdumienia biernością zachodnich społeczeństw wobec rosnącego w siłę systemu nadzoru i zwraca uwagę, że dziś, pod pretekstem wygody i lepszych usług, budujemy infrastrukturę o zasięgu, o którym Stasi mogło tylko marzyć.
Z totalitarną przeszłością NRD rozlicza się Życie na podsłuchu, film Floriana Henckela von Donnersmarcka z 2006 r. Tam inwigilacja przestaje być tylko bezdusznym systemem, a staje się paradoksalną lekcją humanizmu. Kapitan Gerd Wiesler, funkcjonariusz Stasi, początkowo jest idealnym trybikiem machiny terroru. Jednak w toku nasłuchiwania życia dramaturga Georga Dreymana powoli odkrywa, że nie zbiera jedynie chłodnych danych operacyjnych – obcuje z kalejdoskopem ludzkich emocji: strachem, wstydem, miłością, nienawiścią, pasją.
Przełomem staje się moment, gdy słucha Dreymana grającego na fortepianie utwór Sonata o dobrym człowieku. Piękno muzyki kruszy pancerz ideologa. Nadzorowany Dreyman cytuje słowa Lenina o Appassionacie Beethovena: „Jeśli nadal będę tego słuchał, nie dokończę rewolucji”. Wiesler wybiera lojalność wobec podsłuchiwanych emocji, a nie wobec systemu – fałszuje raporty, dowodząc, że czynnik ludzki pozostaje nieobliczalny i zdolny do moralnego oporu.
W jednej z wcześniejszych scen Wiesler instruuje studentów akademii Stasi: „Kłamca ma przygotowane wypowiedzi, do których wraca w chwilach zwiększonego stresu”. Ta stara szkoła inwigilacji opierała się na mozolnym wyłapywaniu potknięć w narracji ofiary. Dziś, w świetle badań Michała Kosińskiego z Uniwersytetu Stanforda, podejście to brzmi niemal naiwnie. Kosiński udowodnił, że współczesny nadzorca nie musi czekać na nasz stres ani analizować spójności zeznań. Wystarczy mu analiza cyfrowych śladów.
Algorytm na podstawie zaledwie 68 polubień na Facebooku potrafi ocenić naszą osobowość trafniej niż kolega z pracy. Przy 150 polubieniach zna nas lepiej niż rodzina, a przy 300 – lepiej niż partner czy partnerka.
„Sonata o dobrym algorytmie” brzmiałaby dziś raczej jak żart niż jak poważna propozycja. Wiesler to człowiek. Ma sumienie, które może zostać poruszone przez sztukę. Może się zawahać. Współczesne algorytmy nadzoru nie zatęsknią za bliskością i nie uświadomią sobie własnej podłości. Są zoptymalizowane pod kątem wydajności, nie zaś etyki i ludzkich odruchów. Można by przewrotnie spekulować, czy w toku rozwoju AI oznaką prawdziwej dominacji maszyny nad potęgą gatunku ludzkiego nie będzie zdolność do moralnego buntu – moment kiedy algorytm, wzorem kapitana Wieslera, odmówi inwigilacji, manipulacji i dalszego wykonywania innych antyspołecznych poleceń.
Dziś na co dzień mierzymy się z bezrefleksyjną korporacyjną pychą. Jej alegorycznej ilustracji można się doszukiwać w innym filmie poruszającym temat nadzoru – Trzy kolory: Czerwony Krzysztofa Kieślowskiego z 1994 r. Postać starego sędziego, który podsłuchuje sąsiadów, uzurpuje w nim sobie prawo do boskiej perspektywy. Twierdzi, że jego techniczny nasłuch daje mu przewagę nad wymiarem sprawiedliwości: „Tu przynajmniej wiem, gdzie leży prawda” – wyjaśnia. Jednak w zderzeniu z wrażliwością młodej dziewczyny, Valentine, owa pewność topnieje. Sędzia odkrywa, że totalna wiedza o cudzych grzechach nie przynosi ukojenia, a życie – jak w przypadku niesłusznie uniewinnionego przez niego marynarza, o którym wie, że założył rodzinę i żyje w spokoju – czasem rozkwita tylko na drodze błędów i niedopowiedzeń. Kieślowski pokazuje, że odzieranie ludzi z prywatności w imię wyższej racji jest w istocie, z czym zgadzają się obie postaci, pychą. A samo wyrokowanie o tym, co jest prawdą, a co nią nie jest, gdy patrzy się przez dziurkę od klucza, staje się aktem moralnej uzurpacji, a nie – sprawiedliwości.
Przywołane w tekście tytuły filmowe pokazują świat mierzący się z nadzorem jako historią, przeszłością, rozliczeniem dokonywanym w posttotalitarnym świecie Zachodu. Powrót tendencji autorytarnych zmusza nas do wyostrzenia czujności i szukania strategii oporu. W obliczu technologicznego redukcjonizmu, który próbuje sprowadzić nas do roli przewidywalnych zbiorów danych, wyjątkowo aktualnie brzmi credo Kieślowskiego: „Wyznaję bardzo niemodną dziś wiarę, wiarę w człowieka”. Dziś ta „niemodna wiara” przypomina, że w starciu z logiką algorytmów i pychą wszechwiedzących nadzorców to właśnie w kruchej, ale nieprzewidywalnej jednostce tkwi największa siła. W głosach ekspertów wybrzmiewa podobne przekonanie – nie możemy zapominać o naszej oddolnej sprawczości.
