Encyklika Leona XIV „Magnifica Humanitas”- WIELKOŚĆ OSOBY LUDZKIEJ WOBEC OBIETNIC AI

ROZDZIAŁ III

TECHNIKA I PANOWANIE. WIELKOŚĆ OSOBY LUDZKIEJ WOBEC OBIETNIC SZTUCZNEJ INTELIGENCJI

90. Po przypomnieniu zasad, które rzucają światło na naukę społeczną Kościoła, pragnę teraz skierować spojrzenie ku niektórym wyzwaniom, dotykającym szczególnie naszego sposobu przeżywania obecnego czasu. Biblijnym obrazem, który towarzyszy tym stronom, jest obraz budowli: z jednej strony wieża Babel, gdzie wspólne dzieło kierowane jest zamysłem panowania, który ostatecznie prowadzi do dehumanizacji (por. Rdz 11, 1–9); z drugiej zaś ruiny Jerozolimy, odbudowywane kawałek po kawałku pod przewodnictwem Nehemiasza jako dzieło wspólnej odpowiedzialności (por. Ne 2–6). Jesteśmy wezwani, by postawić sobie pytanie o wielki plac budowy naszej epoki: co właściwie wznosimy? (...)

91. Towarzyszy mi przekonanie, że konkretny sposób przeżywania relacji społecznych w świetle Ewangelii nie jest ustalony raz na zawsze, lecz pozostaje zadaniem powierzanym wspólnocie chrześcijańskiej z pokolenia na pokolenie. Pod przewodnictwem Ducha Świętego Kościół pozwala się oświecać Słowu, aby odczytywać znaki czasu i z twórczą odwagą poszukiwać nowych dróg, dzięki którym relacje między osobami i narodami stawałyby się coraz bardziej zgodne z wymogami Królestwa Bożego [118] (...)

Paradygmat technokratyczny i władza cyfrowa

92. W Encyklice Laudato si’ Papież Franciszek piętnował rosnącą dominację paradygmatu technokratycznego [119] w zglobalizowanym świecie: tendencję do tego, by logika efektywności, kontroli i zysku sama rządziła wyborami osobistymi, społecznymi i gospodarczymi.(...)

93. Paradygmat ten szybko rozszerzył się w ostatnich latach, również wskutek rozpowszechniania sztucznej inteligencji, nauk kognitywnych, nanotechnologii, robotyki i biotechnologii. Same w sobie innowacje te mogą stać się wielką pomocą dla integralnego rozwoju człowieka i troski o wspólny dom. Jednak właśnie ze względu na swoją moc mogą pełnić funkcję akceleratora paradygmatu technokratycznego i dlatego potrzebują nowych ram duchowych, etycznych i politycznych. To, co potężniejsze, niekoniecznie znaczy lepsze. W tym sensie aktualne pozostają słowa Romana Guardiniego: „Człowiek nowoczesny nie został wychowany tak, aby umiał się posługiwać swą mocą właściwie” [120].

94. Niebezpieczeństwo, że ludzkość stanie się ofiarą własnych zdobyczy, zostało już z wielką jasnością dostrzeżone przez św. Pawła VI, gdy przestrzegał, że „najbardziej niezwykłe postępy naukowe, najbardziej niesamowite osiągnięcia techniczne, najcudowniejszy rozwój gospodarczy, jeśli nie łączą się z autentycznym postępem społecznym i moralnym, w ostatecznym rachunku zwracają się przeciw człowiekowi” [121]. (...)

95. Trzeba tu uznać fakt decydujący, do którego już wcześniej nawiązałem: w wielu przypadkach w kontekście cyfrowym kontrola nad platformami, infrastrukturami, danymi i mocą obliczeniową nie należy do państw, lecz do wielkich podmiotów gospodarczych i technologicznych, które de facto ustalają warunki dostępu, zasady widoczności treści, a nawet same możliwości uczestnictwa. Kiedy władza o takim zasięgu koncentruje się w nielicznych rękach, ma tendencję do stawania się nieprzejrzystą i wymykania się kontroli publicznej, a zarazem wzrasta ryzyko wypaczonego rozwoju, który rodzi nowe zależności, wykluczenia, manipulacje i nierówności.

Sztuczna inteligencja

97. Nie jest moją intencją, by w tym miejscu przedstawiać wykład na temat sztucznej inteligencji ani przytaczać bibliografię, dziś już bardzo obszerną; (...)

98. Wypada poprzedzić te rozważania dwiema uwagami. Po pierwsze, istnieje ryzyko, że wszelkie tezy dotyczące AI mogą się w krótkim czasie zdezaktualizować ze względu na zdumiewające tempo rozwoju tych systemów. Po drugie, wszyscy – także ci, którzy je projektują – niewiele wiemy o ich rzeczywistym funkcjonowaniu. Współczesne systemy sztucznej inteligencji są bowiem bardziej „hodowane” niż „konstruowane”: twórcy nie projektują bezpośrednio każdego ich szczegółu, lecz tworzą architekturę, na której AI „się rozwija”. (...)

99. Nie jest możliwe podanie jednej, jednoznacznej i wyczerpującej definicji AI. Możemy jednak stwierdzić, że należy unikać błędnego utożsamiania tej „inteligencji” z inteligencją ludzką. Systemy te naśladują niektóre funkcje ludzkiej inteligencji. Czyniąc to, często przewyższają ją szybkością i zakresem obliczeń, oferując konkretne korzyści w licznych dziedzinach. Niemniej jednak ta moc pozostaje związana wyłącznie z przetwarzaniem danych: tak zwane systemy sztucznej inteligencji nie przeżywają doświadczenia, nie posiadają ciała, nie odczuwają radości i bólu, nie dojrzewają w relacji, nie znają od wewnątrz tego, co znaczą miłość, praca, przyjaźń i odpowiedzialność. Nie mają również świadomości moralnej: nie oceniają dobra i zła, nie ujmują ostatecznego sensu sytuacji, nie biorą na siebie ciężaru konsekwencji. Mogą naśladować języki, zachowania i oceny, mogą symulować empatię albo zrozumienie, ale nie rozumieją tego, co wytwarzają, ponieważ nie żyją w sferze afektywnej, relacyjnej i duchowej, w których człowiek staje się mądry. (...)

100. W świetle tego, co zostało powiedziane, możemy lepiej zrozumieć, dlaczego AI może być cenną pomocą, a zarazem wymagać podejścia trzeźwego i czujnego. (...)

(...) Sztuczne naśladowanie pozytywnej komunikacji ludzkiej – słów rady, empatii, przyjaźni, miłości – może być satysfakcjonujące, a nawet użyteczne, ale niewystarczająco świadomych użytkowników może wprowadzać w błąd i stwarzać złudzenie, że pozostają oni w relacji z autentycznym podmiotem osobowym. Gdy słowo jest symulowane, nie buduje relacji, lecz jedynie jej pozór. Sztuczne naśladowanie relacji opiekuńczej lub towarzyszenia może stać się niebezpieczne, gdy wkrada się w kontekst ubogi w realne relacje i uczucia: wówczas istnieje ryzyko nie tylko tego, że jakaś osoba uwierzy, iż rozmawia z inną osobą, lecz tego, że utraci samo pragnienie rzeczywistego szukania drugiego człowieka.

101. Poszerzając spojrzenie na zastosowanie AI w naszych społeczeństwach, stwierdzamy, że jest ona już obecna w procesach decyzyjnych we wszystkich dziedzinach i na różnych poziomach: w komunikacji, zarządzaniu i kontroli. (...)

102. Korzystanie z AI nigdy nie jest faktem czysto technicznym: kiedy wkracza ona w procesy oddziałujące na życie ludzi, dotyka praw, szans, reputacji i wolności. Delikatne decyzje dotyczące pracy, kredytu, dostępu do usług i reputacji osób mogą zostać powierzone całkowicie systemom zautomatyzowanym, które nie znają „współczucia, miłosierdzia, przebaczenia, a nade wszystko otwartości na nadzieję przemiany osoby” [125] i w ten sposób mogą rodzić nowe formy wykluczenia. Mogą istnieć zastosowania w oczywisty sposób antyludzkie, jak manipulowanie informacją czy naruszanie prywatności, ale może istnieć także pułapka mniej jawna, gdy systemy AI, przedstawiając się jako neutralne i obiektywne, odzwierciedlają i umacniają stereotypy lub stanowiska ideologiczne tych, którzy je zaprojektowali i wytrenowali.

105. Aby AI szanowała godność ludzką i rzeczywiście służyła dobru wspólnemu, konieczne jest, by odpowiedzialność była jasno określona na wszystkich etapach: od tych, którzy projektują i trenują systemy, aż po tych, którzy z nich korzystają, oraz tych, którzy decydują o powierzeniu im konkretnych rozstrzygnięć. W wielu przypadkach jednak wewnętrzne procesy prowadzące do danego wyniku mogą pozostawać mało przejrzyste, a to utrudnia przypisanie odpowiedzialności i korygowanie błędów. Właśnie tutaj decydującego znaczenia nabiera to, co nazywamy accountability – możliwość ustalenia, kto ma „zdać sprawę” z decyzji, uzasadnić je, poddać kontroli, a gdy to konieczne – zakwestionować je i naprawić szkody, które z nich wynikają [127].

106. Domagać się roztropności, wnikliwej weryfikacji, a niekiedy nawet spowolnienia we wdrażaniu sztucznej inteligencji nie znaczy być przeciwnikiem postępu, lecz wyrażać odpowiedzialną troskę o rodzinę ludzką. (...)

108. Istotnie, jak bywa w przypadku każdego wielkiego przełomu technologicznego, AI skłonna jest pomnażać przede wszystkim władzę tych, którzy już dysponują zasobami ekonomicznymi, kompetencjami i dostępem do danych. W świetle dobra wspólnego i powszechnego przeznaczenia dóbr zjawisko to budzi poważny niepokój: małe, lecz bardzo wpływowe grupy mogą ukierunkowywać informację i konsumpcję, warunkować procesy demokratyczne i oddziaływać na dynamikę gospodarczą dla własnej korzyści, wbrew sprawiedliwości społecznej i solidarności między narodami. Dlatego niezbędne jest, by korzystaniu z AI – zwłaszcza wtedy, gdy dotyczy ona dóbr publicznych i praw podstawowych – towarzyszyły jasne kryteria i skuteczne mechanizmy kontroli, inspirowane uczestnictwem i zasadą pomocniczości: wspólnoty i ciała pośrednie nie mogą zostać zredukowane do roli odbiorców decyzji podjętych gdzie indziej, lecz muszą móc wnosić swój wkład w rozeznawanie i nadzór. Ponadto własność danych nie może być powierzona wyłącznie podmiotom prywatnym, lecz musi zostać poddana regulacjom. Dane są owocem wkładu wielu osób i nie mogą być sprzedawane ani powierzane nielicznym. Potrzebna jest kreatywność zdolna zarządzać nimi jako jednym z dóbr wspólnych lub zbiorowych, w logice współdzielenia, jak sugerował już św. Jan Paweł II w odniesieniu do dóbr zbiorowych [128].

110. Chciałbym wreszcie użyć słowa, które jest mi szczególnie drogie: „rozbroić”. Rozbroić AI znaczy wyrwać ją z logiki zbrojnej rywalizacji, która dzisiaj nie jest już wyłącznie militarna, lecz także ekonomiczna i poznawcza. Jest to wyścig do stworzenia najsprawniejszego algorytmu i najszerszego zbioru danych (dataset) po to, by utrwalić przewagę geopolityczną lub handlową nad wszystkimi innymi. Rozbroić znaczy zerwać tę równoznaczność między potęgą techniczną a prawem do rządzenia. Rozbroić nie znaczy wyrzec się technologii, lecz nie dopuścić, by zapanowała nad tym, co ludzkie. Znaczy wyzwolić ją spod monopoli, uczynić ją przedmiotem debaty i sprzeciwu, a tym samym przestrzenią przyjazną ludziom, przywracając ją wielości ludzkich kultur i form życia. (...)

111. Szczególny apel kieruję do tych, którzy zajmują się rozwijaniem systemów sztucznej inteligencji. Innowacja technologiczna może być w pewnym sensie ludzką formą uczestnictwa w Bożym akcie stworzenia. Na twórcach systemów AI spoczywa zatem szczególna odpowiedzialność etyczna i duchowa, ponieważ każda decyzja projektowa wyraża określoną wizję ludzkości. Tak jak autor dzieła artystycznego czy literackiego powinien brać pod uwagę wartości, które ono wyraża, tak i oni powinni z należytą powagą traktować wartości, które wpisują w swoje projekty: w sposób przejrzysty, z poczuciem odpowiedzialności wobec społeczności, których one dotyczą, oraz z czujnością, która pozwala zweryfikować, czy to, co jest rozwijane, rzeczywiście służy dobru.