Encyklika Leona XIV „Magnifica Humanitas”- Broń i sztuczna inteligencja

https://www.vatican.va/content/leo-xiv/pl/encyclicals/documents/20260515-magnifica-humanitas.html

Broń i sztuczna inteligencja

197. Z tym scenariuszem łączy się nieustanny rozwój systemów uzbrojenia, a zwłaszcza broni związanej z AI. Stolica Apostolska zauważyła niedawno, że rosnąca łatwość, z jaką można wykorzystywać systemy uzbrojenia o autonomii operacyjnej, sprawia, że wojna staje się bardziej „wykonalna” i mniej podlega ludzkiej kontroli, sprzeciwiając się zasadzie, wedle której użycie siły zbrojnej powinno być ostatecznością w przypadku uprawnionej obrony [183]. Dlatego rozwój i wykorzystywanie sztucznej inteligencji w działaniach wojennych muszą zostać poddane najsurowszym ograniczeniom etycznym – z poszanowaniem godności człowieka i świętości życia – tak aby zapobiec wyścigowi zbrojeń [184].

198. Niekiedy mówi się o „sztucznych podmiotach moralnych”, jak gdyby maszyna mogła zagwarantować – z większą konsekwencją niż człowiek – rozróżnienie między dobrem a złem. Tymczasem sąd moralny nie daje się sprowadzić do obliczeń: zakłada on sumienie, osobistą odpowiedzialność i uznanie drugiego człowieka za osobę. Dlatego nie wolno powierzać sztucznym systemom decyzji śmiercionośnych ani w ogóle nieodwracalnych. Nie istnieje żaden algorytm, który mógłby uczynić wojnę moralnie dopuszczalną. Sztuczna inteligencja nie odbiera konfliktowi jego wewnętrznie nieludzkiego charakteru: może jedynie uczynić go szybszym i bardziej bezosobowym, obniżając próg uciekania się do przemocy i przemieniając obronę w operacyjne przewidywanie, przy czym ofiary zostają zredukowane do danych. W ten sposób przyzwyczaja nas ona do myśli, że przemoc jest nieuchronna i trzeba ją jedynie optymalizować. Dlatego sprawą najwyższej wagi jest wprowadzanie wartości i roztropnego osądu w programowanie tworzonych przez nas sztucznych systemów, tak aby mogły one przyczyniać się do budowania ekosystemu moralnego, w którym ludzie będą bardziej zdolni do słuchania własnego sumienia, a modelom AI zostaną wyznaczone właściwe granice.

199. Nie wystarczy ogólnikowo odwoływać się do etyki: trzeba wskazać konkretne kryteria rozeznawania. Pierwsze dotyczy odpowiedzialności osobistej. Gdy decyzja o ataku ulega automatyzacji albo staje się nieprzejrzysta, wzrasta ryzyko uchylenia się od odpowiedzialności. Dlatego łańcuch odpowiedzialności musi pozostawać identyfikowalny i weryfikowalny: ten, kto projektuje, kto trenuje, kto wydaje zgodę, kto używa, powinien móc zdać sprawę ze swoich wyborów. Drugie kryterium dotyczy czasu osądu moralnego. Sztuczna inteligencja ma tendencję do skracania czasu podejmowania decyzji; tymczasem na wojnie nieodwracalne decyzje nie mogą mieć za nadrzędne kryteria szybkości i skuteczności. Trzecim kryterium jest identyfikacja oraz ochrona ludności cywilnej. Każda technologia, która ułatwia uderzenie bez oglądania twarzy drugiej osoby, obniża moralny próg konfliktu. Wybór celów i użycie siły nie mogą zacierać różnicy między walczącymi i niewalczącymi ani lekceważyć skutków dla bezbronnej ludności.

200. Z tych kryteriów wynikają pewne nienegocjowalne wymagania. Przede wszystkim, w odniesieniu do każdego systemu używanego w działaniach wojennych muszą być zapewnione identyfikowalność imożliwość odtworzenia procesu decyzyjnego, tak aby odpowiedzialność i ewentualna wina nie rozpływały się „w maszynie”. Po drugie, decyzja o użyciu śmiercionośnej siły nie może być powierzana procesom nieprzejrzystym ani zautomatyzowanym, lecz musi pozostawać pod rzeczywistą, świadomą i odpowiedzialną kontrolą człowieka. Wreszcie, konieczne jest ustanowienie wspólnych zasad, również na poziomie międzynarodowym, które powstrzymają wyścig zbrojeń technologicznych i zapewnią szczególną ochronę ludności cywilnej oraz infrastruktury niezbędnej dla jej przetrwania.

Kryzys multilateralizmu

201. Kultura potęgi wyrasta również z kryzysu systemu multilateralnego. Instytucje powołane do strzeżenia idei wspólnego losu narodów i światowego dobra wspólnego wydają się osłabione, nie tylko z powodu ograniczeń strukturalnych, lecz także dlatego, że często brakuje wspólnej woli, by je wspierać, reformować i uznawać ich autorytet moralny. Zamiast iść naprzód, cofamy się wobec historycznego przełomu XX w. Po 1989 r. upadkowi reżimów komunistycznych w Europie towarzyszyła globalizacja o charakterze głównie gospodarczym, pozbawiona odpowiedniej architektury politycznej zdolnej podtrzymywać dialog i pokój. Niemal ślepo powierzono rynkom zdolność do tworzenia dobrobytu, demokracji i stabilności, podczas gdy w rzeczywistości globalizacja nie zrodziła automatycznie jedności ani pokoju, lecz wywołała reakcje fundamentalistyczne, tożsamościowe i nacjonalistyczne. Rezultat ten daleki jest od autentycznego multilateralizmu: przypomina raczej nieuporządkowaną i konfliktową wielobiegunowość, w której górę bierze nieufność wobec drugiego.

202. Powraca pokusa budowania tożsamości zbiorowej w opozycji do wroga, podsycając narracje, w których każdy przedstawia siebie jako ofiarę uprawnioną do odwetu. Upraszczanie rzeczywistości do schematów – „najpierw ja”, „przyjaciel-wróg”, „my-oni” – ułatwia podejmowanie decyzji często nieodpowiedzialnych, które podkopują wzajemne zaufanie między narodami. Siła prawa międzynarodowego zostaje w ten sposób zastąpiona rzekomym „prawem silniejszego”, a jego narzędzia – od trybunałów właściwych w sprawach zbrodni wojennych po sądy powołane do rozstrzygania sporów między państwami – bywają często omijane albo osłabiane, z katastrofalnymi skutkami dla kultury politycznej i dla współżycia społecznego [185].

203. W tym kontekście budowanie pokoju zeszło na dalszy plan: współpraca na rzecz rozwoju, rozbrojenie, zapobieganie konfliktom i budowanie wzajemnego zaufania są odkładane na bok w imię logiki potęgi. W ten sposób słabną również osiągnięcia prawa humanitarnego: zasada proporcjonalności w odpowiedzi na akty agresji, ochrona dostępu do wody, żywności i dóbr podstawowych, poszanowanie życia ludności cywilnej i dzieci – wszystko to bywa traktowane jak naiwne wspomnienia przeszłości.