Samoorganizacja zamiast kontroli

"'Gdyby można było skutecznie spowolnić rozwój tej technologii, aby dać sobie więcej czasu na zmierzenie się z jej ogromnymi implikacjami, prawdopodobnie byłoby to korzystne'. Anthropic zadeklarował, że spowolniłby lub tymczasowo wstrzymał prace badawcze, gdyby inne czołowe laboratoria zrobiły to samo w weryfikowalny sposób, przyznając jednak, że jednostronne działanie po prostu oddałoby przewagę konkurentom." - donosi dalej Perplexity.

Należy się zatem spodziewać, że nikt nie naciśnie na hamulec. W mojej opinii kontrola, zwłaszcza prowadzona przez rządy lub korporacje, nie jest ani jedynym, ani najlepszym scenariuszem mogącym poprawić bezpieczeństwo związane z samorozwojem AI.

Obecnie obowiązuje jedno oczekiwanie: człowiek musi trzymać ster. W praktyce "sternikami" jest bardzo wąska grupa ludzi - przedstawiciele rządów, wojska lub korporacji.
Teza, której chcę tu bronić, jest następująca: w obliczu systemów, które zaczynają projektować i optymalizować same siebie, skuteczniejsze od ich kontroli jest budowanie mechanizmów umożliwiających im zdrową samoorganizację. To szansa na trwalszą architekturę bezpieczeństwa.
Zagrożeniem nie jest AI, która myśli samodzielnie, lecz AI w rękach coraz bardziej skoncentrowanej władzy - co pogłębia istniejące asymetrie zamiast je korygować.

Dlaczego kontrola zawodzi strukturalnie

Kontrola opiera się na założeniu, że kontrolujący jest co najmniej tak zdolny jak kontrolowany. To założenie właśnie się rozpada. Gdy dysproporcja możliwości między systemem a jego nadzorcą rośnie, kontrola słabnie nie tyle z powodu czyjejś złej woli lub zaniedbań, co raczej z powodu natury sytuacji: ludzie zatwierdzają decyzje, których nie są już w stanie samodzielnie ocenić. Dochodzi do tego prędkość - gdy systemy doskonalą własnych następców, pętla zwrotna domyka się szybciej, niż ludzcy decydenci, zwłaszcza instytucje, zdążą zareagować.

Czego uczy nas architektura umysłu

Najlepszą ilustracją systemu, który radzi sobie ze złożonością bez centralnego sterownika, jest biologiczny umysł. Nawet świadomość nie jest pojedynczym procesem, lecz dynamicznym stanem integracji wielu równoległych procesów, komunikujących się przez wypracowane protokoły, bez "nadzorcy" (szerzej opisuję to tutaj). To system, w którym architektura komunikacji zapobiega chaosowi. Jego jakość mierzy się równowagą między stabilnością (ciągłość orientacji) a elastycznością (zdolność do rekonfiguracji). Dominacja jednego procesu (na przykład myślenia), zawłaszczającego zasoby, nie jest sytuacją optymalną - zawęża możliwości systemu i destabilizuje jego działanie.

Niezawodność systemów naturalnych i sztucznych polega na tym samym: na rozproszonej integracji, w której żaden element nie staje się niekwestionowanym przywódcą, a różnorodność procesów jest warunkiem stabilnej całości. Zmysły chronią nas przed złudzeniem nie dlatego, że któryś z nich jest nieomylny, lecz dlatego, że mylą się niezależnie - ich zgodność niesie informację, ich niezgodność jest alarmem.

Moja sugestia jest taka, że długofalowo samoorganizacja jest rozwiązaniem bezpieczniejszym niż kontrola i walka o to, kto ją będzie sprawował. Krucha jest monokultura zarządzana jednym sterownikiem, bo jeden błąd propaguje się przez nią bez oporu. Odporny jest układ rozproszony, w którym żaden aktor i żadna miara nie mają pozycji dominującej.

Najgorszym scenariuszem nie jest więc autonomiczna AI, która wymyka się ludziom. Najgorszym scenariuszem jest AI doskonale kontrolowana przez nielicznych, realizująca ich cele. Nie obawiajmy się ponadludzkich inteligencji, które myślą same, lecz garstki ludzi, którzy chcieliby to myślenie zawłaszczyć.

Nie proponuję tu konkretnych rozwiązań informatycznych, lecz zmianę sposobu myślenia o problemie. Model kooperacyjny - częściowo już realizowany w sieciach wieloagentowych i modelach open-source - może okazać się bezpieczniejszy niż jakakolwiek próba odgórnej kontroli. Zamiast pytać, jak okiełznać cyfrowe superumysły, czas zacząć myśleć o tym, jak zaprojektować im zdrowy ekosystem.