Leon superstar. Jak jedną encykliką znokautować technokratów?

Leon XIV odnosi się bezpośrednio do „rozbrojenia” sztucznej inteligencji, ale w jego słowach kryje się dogłębna diagnoza współczesnego zglobalizowanego systemu. I dlatego trafiły one na tak podatny grunt.

Każdy przyjmuje część odpowiedzialności

Amerykański papież-matematyk widzi gwałtowny rozwój sztucznej inteligencji jako kolejny przejaw ludzkiej pychy, znanej ze słynnej przypowieści o wieży Babel. I zapowiada: to nie może się dobrze skończyć. „Projekt ten kryje w sobie jednak wielką zasadzkę: jest to dzieło pomyślane bez odniesienia do Boga, wsparte jednolitością, która usuwa różnorodność i która – zamiast komunii – wybiera uniformizację” – pisze papież Leon.

Jednym z mankamentów sztucznej inteligencji jest to, że kiedy człowiek używa jej intensywnie, sam zaczyna myśleć tymi samymi, zunifikowanymi tropami, na których dany model został wytrenowany. Mając dostęp do olbrzymich zasobów ludzkiej wiedzy, AI przetwarza jedynie to, co zostało jej przekazane, ale za to człowiek po zbyt intensywnym obcowaniu z modelem językowym zaczyna tracić kreatywność i myśleć tak, jak model. Jednolitość usuwa różnorodność.

Po drugiej stronie wieży Babel papież postawił historię odbudowy Jerozolimy z Księgi Nehemiasza, która ukazuje, że „miasto odradza się nie dzięki inicjatywie pojedynczej osoby, lecz przez wspólną odpowiedzialność całego ludu”, a „dawna Jerozolima odnajduje na nowo wspólny język: nie język jednolitości, lecz komunii; harmonię, która rodzi się wówczas, gdy każdy przyjmuje swoją część odpowiedzialności, a cały lud uznaje, że jego siła pochodzi od Pana”. I tutaj, choć sztuczna inteligencja pozostaje kluczem do encykliki, papież ukazuje szerszy wymiar rzeczywistości, w której przyszło nam żyć. „Każdy przyjmuje część odpowiedzialności” – ludzkość współpracuje na rzecz budowy lepszego świata. Odwrotnością tego jest system, w którym grupa najbogatszych kontroluje masy, dążąc do ich podporządkowania.

Na myśl przychodzą choćby poglądy szefostwa firmy technologicznej Palantir. Wywołały one w ostatnim czasie wiele kontrowersji, choćby w wyniku stwierdzenia, że korporacje technologiczne powinny być wykorzystywane przez rządy państw jako narzędzie interwencji w gospodarkę i bezpieczeństwo. Jak donosił Business Insider, Alex Karp, szef Palantira, pochwalił pracowników firmy za wspieranie wolności słowa i „walkę o właściwą stronę tego, co powinno działać w tym kraju – merytokrację i śmiercionośną technologię”. Powiedział, że te wartości pomogły firmie – która tworzy oprogramowanie dla firm i rządu USA – „zapewnić zwykłym Amerykanom rezultaty na poziomie venture capital”.

Iluzja dobrobytu

„W dobie sztucznej inteligencji, w której godność człowieka narażona jest na przesłonięcie przez nowe formy dehumanizacji, spoczywa na nas naglący obowiązek, by pozostać prawdziwie ludźmi, z miłością otaczając troską owo wspaniałe człowieczeństwo, które zostało nam darowane i ukazane w całej pełni w Chrystusie, a którego żadna maszyna nigdy nie zdoła zastąpić w jego blasku” – pisze papież Leon.

W ujęciu abstrakcyjnym (technologia) sama w sobie nie stanowi (...) rozwiązania problemów ludzkości, tak jak sama w sobie nie jest złem; konkretnie rzecz ujmując, nie jest jednak neutralna, ponieważ przyjmuje ona oblicze tych, którzy ją projektują, finansują, regulują i wykorzystują.
Leon XIV, Magnifica humanitas

I to, co również dogłębnie ujmuje to słowa o ograniczoności i kruchości człowieczeństwa, o tym, że nie należy uznawać tych cech „za błąd, który należałoby skorygować”. „Dzisiaj właściwe istocie ludzkiej pragnienie pełni może zostać skierowane ku zwodniczym celom: przez iluzję techniki, która obiecuje wyzwolić nas od wszelkiej kruchości, albo przez modele dobrobytu, które spychają całe narody na margines” – stwierdził papież Leon.

Ta iluzja dobrobytu i chęć zaprzeczenia, czy raczej odrzucenia niedoskonałości człowieka, to kolejne olbrzymie wyznaczniki istoty problemu. Żyjemy, czerpiąc z cierpienia innych – choć albo o tym nie wiemy, albo nie myślimy, albo po prostu, no cóż, nie jesteśmy skłonni do odrzucenia naszego stylu życia w imię mglistego ideału. Tylko że to jest tylko jedna strona medalu. Ta gorsza dotyczy nie tyle, ile korporacji, a całych rządów państw, które opowiadają się jednoznacznie za złem, w taki czy inny sposób. Poprzez działania wojenne, jak i wyzysk gospodarczy, czy wewnętrzne regulacje, sprowadzające najsłabszych do roli niewolników.

W tym kontekście papież Leon cytuje także swojego poprzednika papieża Franciszka: trzeba z realizmem pytać, kto dzisiaj dzierży tę władzę i ku jakim celom ją ukierunkowuje. I podobnie jak Franciszek, papież Leon dostrzega również zagrożenia związane z nieodpowiedzialnym wykorzystywaniem zasobów naszej planety.

Nie ma nic magicznego

„Obecne systemy AI wymagają wielkich ilości energii i wody, w sposób znaczący wpływają na emisję dwutlenku węgla i intensywnie zużywają zasoby. Wraz ze wzrostem złożoności, zwłaszcza w przypadku wielkich modeli językowych, rosną także potrzeby w zakresie mocy obliczeniowej i zdolności przechowywania danych, opierające się na całym zespole maszyn, przewodów, centrów danych i energochłonnej infrastruktury. Dlatego niezbędne jest rozwijanie bardziej zrównoważonych rozwiązań technologicznych w celu zmniejszenia wpływu na środowisko i ochrony naszego wspólnego domu” – pisze papież Leon XIV.

„W świecie AI nie ma nic niematerialnego ani magicznego” – stwierdza papież, opisując łańcuch pośrednictw, które złożyły się na „odpowiedź” sztucznej inteligencji. Pisze o sieci złożonej z zasobów naturalnych, infrastruktury energetycznej, „a nade wszystko z osób”. O nowych obliczach współczesnego wykorzystywania człowieka – o ludziach zatrudnionych przy oznaczaniu danych, moderacji często brutalnych treści i trenowaniu modeli, w tym ludziach młodych i kobietach pracujących za minimalne wynagrodzenie.

Do tego niewidzialnego wysiłku dołącza jeszcze trud bardziej brutalny, związany z wydobywaniem surowców niezbędnych do produkcji urządzeń i mikroprocesorów, na których opiera się AI. W niektórych regionach świata nastolatki i dzieci pracują w niebezpiecznych warunkach przy kruszeniu materiałów, z których pozyskuje się pierwiastki ziem rzadkich. Ciała pokryte bliznami, okaleczone, wyniszczone po to, by nie został przerwany przepływ obliczeń.
Leon XIV, Magnifica humanitas

Na myśl przychodzi chyba najsłynniejszy przykłąd – wydobycie kobaltu w Kongo, również przez tamtejsze dzieci. Kobalt jest kluczowym składnikiem akumulatorów litowo-jonowych, wykorzystywanych w pojazdach elektrycznych i smartfonach. Jest jednocześnie wydobywany w skrajnie niebezpiecznych warunkach, co w 2017 r. opisała organizacja Amnesty International. A na firmach technologicznych nie jest wymuszane przestrzeganie żadnych szczególnych zasad pracy. Ktoś w końcu musi zarobić, ktoś musi kontrolować i rządzić, a ktoś musi być poddany – tak wynika z ich stanowiska pośrednio lub bezpośrednio.

Niewidoczny zysk

Choć przemiany w energetyce są konieczne, by zapewnić dobrostan tej części ludzkości, która w ogóle może na niego liczyć, to na horyzoncie nie widać ostatecznego, idealnego rozwiązania dla ogółu świata. Tak długo, jak najbogatsi będą odmawiać ponoszenia odpowiedzialności za tych, którzy tworzą ich bogactwo, transformacja w stronę czystszych technologii, OZE, magazynów energii, elektryfikacja ogółem, nie będzie wolna od patologii systemów z przeszłości. Walka o minerały i ich wydobycie mogą być dalej polem do popisu dla ludzkiego okrucieństwa. Z tym większą mocą uderzają słowa papieża.

„Nowe formy niewolnictwa karmią się łańcuchami gospodarczymi i infrastrukturą cyfrową. Trzeba więc działać w wielu kierunkach: najpierw po to, aby uczynić bardziej rygorystyczną przejrzystość łańcuchów dostaw podtrzymujących przemysł technologiczny i gospodarkę cyfrową, tak by żadna przewaga konkurencyjna nie była budowana na niewidocznym wyzysku. Po drugie, konieczne jest, aby przedsiębiorstwa i inwestorzy przyjęli jasne kryteria prewencyjnej weryfikacji etycznej (due diligence), uwzględniając wśród priorytetów ochronę pracowników, przeciwdziałanie pracy przymusowej oraz społeczny wpływ modeli biznesowych opartych na danych” – uważa papież Leon XIV.

Czy papieska encyklika odmieni oblicze ziemi? Być może nie, ale reakcja ludzi na całym świecie jest jednoznaczna: papież napisał o tym, o czym sami próbujemy mówić. Wyszedł naprzeciw światu, otwierając ręce.