Współczesne systemy prawne coraz częściej korzystają z algorytmów do interpretacji, stosowania lub egzekwowania norm. Jedna z centralnych tez, przedstawionej w moim tekście „Algorytmizacja prawa” propozycji Jerzego Wawro stanowi, że algorytmizacja prawa jest przede wszystkim problemem aksjologicznym, a nie technicznym. Algorytmika prawa wytwarza porządek normatywny, który – jak każde prawo – opiera się na hierarchii wartości. Jeżeli nie jest ona jawnie określona, staje się ukryta w architekturze algorytmów. W analizie trzech modeli algorytmizacji – Chińskiej Republiki Ludowej (ChRL), Stanów Zjednoczonych (USA) i Unii Europejskiej (UE) – widać, że brak przejrzystej aksjologii prowadzi do niejawnych priorytetów: bezpieczeństwa państwa i kontroli w Chinach, innowacji i interesów korporacji w USA oraz formalistycznej ochrony praw w UE.
Chiny – algorytmika podporządkowana bezpieczeństwu państwa i „socjalistycznym wartościom”
Pierwsze wnioski płyną z chińskich „Interim Measures for the Management of Generative Artificial Intelligence Services”, które są fundamentem krajowej polityki generatywnej AI. Artykuł 4 wymaga, aby algorytmy „przestrzegały socjalistycznych wartości podstawowych” i zabrania generowania treści, które mogą „podżegać do obalenia władzy państwowej… zagrażać bezpieczeństwu narodowemu… lub promować terroryzm i ekstremizm”. W dalszych punktach przepisy nakazują zapobieganie dyskryminacji, respektowanie praw własności intelektualnej i prywatności oraz stosowanie środków zwiększających przejrzystość usług. W teorii zatem system uwzględnia ochronę praw jednostki, lecz porządek wartości jest podporządkowany prymatowi bezpieczeństwa państwa i ideologicznej stabilności – właśnie to jest „nadrzędną aksjologią”. Algorytmiczne systemy muszą być rejestrowane i oceniane pod kątem zgodności z państwowymi wytycznymi, a generowanie treści niezgodnych z doktryną jest zakazane.
Brak jawnego określenia zakresu wolności słowa i praw obywatelskich powoduje, że te wartości są zastępowane „socjalistycznymi wartościami podstawowymi”, czyli interesem państwowym. Automatyczne cenzurowanie treści, systemy oceny społeczeństwa (social credit) i konieczność uzyskania zgody na trening modeli sprawiają, że aksjologia systemu staje się niewidoczna dla obywatela, lecz skutkuje arbitralnym zakreślaniem granic wolności. To realizacja tezy Wawro: algorytmika prawa bez jawnej, pluralistycznej aksjologii wzmacnia ukryty porządek – w tym wypadku dominację państwa.
USA – prymat innowacji i miękkie deklaracje praw
W Stanach Zjednoczonych rząd federalny postawił na miękki zestaw wytycznych. „Blueprint for an AI Bill of Rights” opracowany przez Biały Dom w 2022 r. definiuje pięć zasad: systemy powinny być bezpieczne i skuteczne, chronić przed dyskryminacją algorytmiczną, respektować prywatność, zapewniać użytkownikom „zawiadomienie i wyjaśnienie” oraz dawać możliwość wyboru człowieka zamiast algorytmu. Dokument podkreśla, że algorytmizacja powinna „wzmocnić nasze najwyższe wartości” i wymaga od twórców systemów przejrzystości, oceny ryzyka i możliwości odwołania. Jednak w ważnym zastrzeżeniu wskazano, że jest to „niezobowiązujące” i nie tworzy praw ani obowiązków, a sektorowy kontekst może ograniczać stosowanie tych zasad.
Miękkość amerykańskich wytycznych sprawia, że algorytmizacja prawa w USA jest w dużej mierze kształtowana przez rynek i prywatne platformy. Federalne dokumenty, jak OMB M‑24‑10 i NIST AI Risk Management Framework, zalecają inwentarze systemów i oceny ryzyka, ale w ostatnich latach nacisk przesuwa się w stronę innowacji i deregulacji. Efektem jest sytuacja, w której platformy technologiczne de facto tworzą i egzekwują własne normy (np. standardy moderacji treści, ranking postów, automatyczne rekomendacje), a aksjologia tych norm pozostaje ukryta, ale jest wypadkową interesów biznesowych, modelu reklamowego, reputacji i niejasno zdefiniowanej wolności słowa. Automatyczne decyzje o demonetyzacji kanałów, usuwaniu treści czy blokowaniu kont często opierają się na algorytmach chronionych tajemnicą handlową. Użytkownik nie wie, jakie wartości przewodnie stoją za systemem, a odwołanie jest utrudnione. Brak twardych, przejrzystych regulacji powoduje, że aksjologia prywatna – skuteczność operacyjna, maksymalizacja zaangażowania czy unikanie skandalu – przesłania aksjologię publiczną.
Unia Europejska – jawna aksjologia praw podstawowych i ryzyko formalizmu
W przeciwieństwie do modelu chińskiego i amerykańskiego, Unia Europejska stara się wyraźnie zakotwiczyć algorytmikę prawa w wartościach podstawowych. Strategia „Shaping Europe’s Digital Future” zapowiada transformację cyfrową, która ma być zorientowana na człowieka, otwarta i demokratyczna; Komisja podkreśla, że cyfrowa Europa powinna „odzwierciedlać to, co w Europie najlepsze – otwartość, sprawiedliwość, różnorodność i demokrację”. Wizja obejmuje „społeczeństwo cyfrowe zakorzenione w naszych wspólnych wartościach, w którym każdy może się rozwijać, wybierać i bezpiecznie uczestniczyć”.
UE zmaterializowała te założenia w AI Act, pierwszym na świecie kompleksowym prawie o sztucznej inteligencji. Akt wprowadza podejście oparte na ryzyku, zakładając cztery kategorie – od zakazanych praktyk po systemy minimalnego ryzyka. Zabrania m.in. systemów manipulacji, social scoringu, zdalnej biometrycznej identyfikacji w czasie rzeczywistym i przewidywania indywidualnych przestępstw. Dla systemów wysokiego ryzyka, w tym stosowanych w wymiarze sprawiedliwości, przewidziano obowiązki przejrzystości, oceny ryzyka, jakości danych, audytów, nadzór człowieka oraz mechanizmów odwoławczych. Celem jest, by Europejczycy mogli „ufać, że AI działa w sposób zgodny z prawami podstawowymi i jest bezpieczna”.
Jednak nawet w modelu unijnym zagrożenie ukrytą aksjologią nie znika. Regulacja może skłaniać organizacje do formalnego spełnienia wymogów bez realnego zrozumienia wartości, które mają być chronione. Ponadto, złożona hierarchia praw i różne interpretacje zasad (np. proporcjonalności, godności osoby, bezpieczeństwa) mogą prowadzić do przerzucania odpowiedzialności na „black box” certyfikacji. Jeśli prawo stanowi jedynie, że system ma być „godny zaufania” i „skoncentrowany na człowieku”, ale nie definiuje, jakie wartości mają pierwszeństwo w przypadku konfliktu, to w praktyce projektanci algorytmów zdecydują za obywateli. To potwierdza tezę Wawro: aby uniknąć ukrytej aksjologii, konieczna jest nie tylko deklaracja wartości, lecz także ich formalne uporządkowanie i testowanie.
Wnioski i rekomendacje
Analiza trzech modeli prowadzi do kilku wniosków.
1. Aksjologia jest nieusuwalna. W każdym systemie automatyzacji prawa – od Chin po USA i UE – algorytmy realizują pewien porządek wartości. Jeśli nie zostanie on jawnie opisany i zakorzeniony w normach wyższego rzędu (np. konstytucyjnych), to będzie wynikał z domyślnych priorytetów projektanta: bezpieczeństwa państwa (Chiny), efektywności i innowacji (USA) albo formalnego spełnienia procedur (UE).
2. Jawność i hierarchia wartości. Jerzy Wawro proponuje, aby algorytmy prawne były konstruowane w oparciu o zrozumiałą dla obywateli hierarchię wartości (godność osoby, prawda, dobro wspólne, sprawiedliwość itd.). ChRL posiada jawne odwołanie do „socjalistycznych wartości”, ale jest to hierarchia zamknięta i podporządkowana władzy państwowej; USA posiada pięć zasad AI Bill of Rights, lecz brak wiążącej mocy powoduje, że w praktyce dominuje aksjologia rynkowa; UE usiłuje operacjonalizować wartości praw podstawowych, lecz potrzebuje mechanizmów przekładania ich na kod i rozliczania projektantów algorytmów z ich stosowania.
3. Transparentność procesów decyzyjnych. W każdym modelu obywatele powinni móc zrozumieć, jakie reguły doprowadziły do decyzji. Chiny wprowadzają obowiązki transparentności, ale w granicach narzucanych przez państwo; USA postuluje „zawiadomienie i wyjaśnienie”, lecz nie wymaga ich w praktyce; UE wymaga jasnych informacji o wysokoryzykownych systemach i mechanizmach odwoławczych. Jawne reguły są kluczowe, aby aksjologia nie stała się ukryta.
4. Rola człowieka i możliwość odwołania. Wszystkie systemy powinny przewidywać możliwość kontroli ludzkiej i procedur odwoławczych. W Chinach hierarchia władzy ogranicza skuteczność takich procedur; w USA brak przepisów wiążących powoduje, że odwołania zależą od woli platform; w UE wymóg „nadzoru człowieka” jest najmocniejszy, ale wymaga wzmocnienia kompetencji oraz odpowiedzialności organów publicznych.
Podsumowanie
Algorytmizacja prawa bez jawnego ugruntowania w określonej i demokratycznie uzgodnionej aksjologii prowadzi do ukrytej aksjologii: w Chinach – państwowo-ideologicznej, w USA – korporacyjno‑rynkowej, w UE – formalistycznej. Model Wawro zachęca, aby zanim powierzymy algorytmom procesy prawne, jasno określić hierarchię wartości, zbudować testowalne normy i zapewnić przejrzystość działania systemów. Tylko jawna aksjologia pozwala, by algorytmizacja prawa była narzędziem wolnych obywateli, a nie instrumentem ukrytej władzy.
Komentarze
Pokaż komentarze