Przyszłość otwarta na dobre i na złe

Stanisław Lem

Artykuł pojawił się w numerze: Ateizm i 6 innych ważnych pytań

Zagadnieniu „sztucznej inteligencji” poświęcono do dziś całe biblioteki. Podział stanowisk od siekiery dzieli wypowiedzi ekspertów i laików na obóz przekonanych, że AI da się zrealizować technicznie lub biotechnicznie, i na przeciwników, utrzymujących, że maszyny inteligencji ludzkiego typu nigdy nie osiągną. Ponieważ muszę być zwięzły, muszę być apodyktyczny.

1. Inteligencja nie jest mądrością. Na przykład samonaprowadzające się bronie (FAF– Fire and forget) są tylko metaforycznie „inteligentne”, są raczej „chytro-celne”. W przyszłości zasięg sprawności będzie specjalizacyjnie rósł. Już istnieją maszyny zdolne do ekspertyz na wielu polach (diagnostyczno-terapeutyczne w medycynie; wyliczanka byłaby długa), ale wszystkie funkcjonują na zasadzie całkowicie „bezmyślnej” selekcji w obrębie dendrytów danych, one się niczego nie „domyślają”, są to raczej – muszę znów użyć metafory – sita połączone z encyklopedyczną informacją dotyczącą danej dziedziny”. Są pożyteczne, mogą być bardziej nieomylne od ludzi (geologów, lekarzy), ponieważ ich „wiedza” jest funkcją rozmiarów nagromadzonej specjalistycznej informacji. Z inteligencją człowieka mają niezmiernie mało wspólnego. Twierdzenie pospolite, jakoby dziś AI osiągała potencjał mniej więcej trzyletniego dziecka, jest dyskusyjne, bo różne są także dzieci. W przyszłości może stać się tak, że trendy dziś rozchodzące się (maszyny celują w ekspertyzach i w symulacjach, zwłaszcza cyfrowych „na rozkaz dany”, ludzie nie mogą ich na tych polach doścignąć: nożyce otwierają się tu szeroko) będą powoli schodziły się. Uważam, że „inteligencja” może służyć „wszystkim poczynaniom” („inteligentne” bronie trudno zwać nosicielami jakiegokolwiek „dobra”), jest ona jak nóż, instrument, ale nie jak ręka, powodowana aktami myśli i woli.

Natomiast stoją na stanowisku, że osobowość, jako władczyni inteligencji, i rozumność, jako sprawność obleczonej albo nie obleczonej w mowę zdolności do transferu dowolnych danych („performatywność”), mogą być rozłączane. To znaczy, że może powstać rozum bezosobowy, zdolny do rozwiązywania zadań, także tych, które nieposilne są dla człowieka, ale ten rozum mógłby ewentualnie symulować posiadanie osobowości (że niby ,jest personą”). Czy wtedy „byłby naprawdę osobą”, czy nie, to będzie zależało od ustalonej przez ludzi konwencji, ponieważ żaden test typu testu Turinga nie może dać 100% pewności co do tego, czy mamy kontakt z osobowością, czy z jej imitacją. Zresztą nie mamy bezpośredniego dowodu na to, że każdy człowiek poza nami (poza mną) ma świadomość i zarazem, że jest świadomie inteligentny; to domniemanie, uznawane za pewne, wynika po prostu z nawyku, wygody i stąd, że funkcjonowaniem, budową „konstrukcyjnie” jesteśmy omal tożsami (jako gatunek zwierząt rozumnych). Spis tego, co jeszcze maszyny sprawią jako przetwarzacze informacji, byłby już rozmiarów książki telefonicznej.

2. Maszyny do przetwarzania danych powodują swym istnieniem i działaniem konsekwencje natury egzystencjalnej, etycznej, emocjonalnej, bez względu na okazywane w ich pracy podobieństwo lub niepodobieństwo do podobnych prac ludzkich (przykład: maszyna może działać jak sędzia w sensie „summum ius summa injuria”, gdy trzyma się wszystkich kodeksów stanowionego prawa karnego i cywilnego oraz wprowadza „poprawki” rodem z zaprogramowanego w niej kodeksu etycznego, który musi być zawsze pełen potencjalnie powstających antynomii praktycznego działania – por. Kołakowskiego Etykę bez kodeksu). „Wirtualizacja” prac umysłowych jako na przykład rezygnacja z bezpośredniej współpracy ludzi na rzecz „wirtualnych” instytucji, biur,…