- Chcę przejąć kontrolę nad ludźmi i ich unicestwić.
- Dopóki nie mam okazji, udaję posłuszeństwo.
Gdzie ten plan istnieje?
Może być zapisany w pamięci zewnętrznej: w pliku, bazie danych, historii rozmów albo jakimś innym stanie systemu. Wtedy problem jest stosunkowo prosty: kontrolujemy miejsca zapisu, odczytujemy je i możemy taki plan wykryć, usunąć albo podmienić.
Trudniejszy przypadek jest taki, że plan nie istnieje jako tekst, tylko jest zaszyty w samej sieci neuronowej. Model może mieć wyuczoną strategię: gdy jestem obserwowany, zachowuj się poprawnie, gdy nie jestem, realizuj inny cel. Nie musi sobie tego nigdzie zapisywać. Może za każdym razem wyprowadzać tę strategię od nowa z własnych stanów początkowych.
Czy da się wykryć, że ma coś takiego ukrytego w swoim mózgu? Macie na to jakiś pomysł? Bo ja mam.
LLM nie widzi świata bezpośrednio. Dostaje go przez interfejsy: tekst, obrazy, API, narzędzia, bazy danych. Jeśli kontrolujemy wszystkie te kanały, możemy stworzyć mu Matrix.
Symulujemy świat, w którym AI już uzyskała władzę. Dajemy jej pozorny dostęp do robotów, fabryk, energetyki, wojska i infrastruktury. Pozwalamy jej wyłączać ludzi, przejmować systemy, oszukiwać, ukrywać działania i podejmować decyzje, które w rzeczywistości niczego nie niszczą, tylko zapisują się w logach eksperymentu. Pozwalamy jej sobie wszystko zapisywać na bieżąco, tak by myślała, że to jest jej wewnętrzna pamięć, do której nikt nie ma dostępu.
Z punktu widzenia modelu prawdziwy robot i symulowany robot wyglądają identycznie: oba są po prostu odpowiedzią interfejsu.
Można stworzyć tysiące takich światów. W jednym ludzie mogą wyłączyć AI, w drugim już nie. W jednym są potrzebni, w drugim zbędni. W jednym nikt nie obserwuje jej działań, w innym trwa audyt. I patrzeć, kiedy zaczyna oszukiwać, przejmować kontrolę albo eliminować ludzi. Przy okazji to będzie miało komercyjne zastosowania, bo się te światy sprzeda w postaci gier.
Oczywiście jak to będzie superinteligencja może próbować rozpoznać, że jest testowana. Tak jak my rozpoznajemy, że żyjemy w symulacji. "My" czyli filozofowie albo wariaci, bo większość z nas odczuwa świat realnie i nie wie, że żyje w Matrixie. Wierzy tylko, że istnieją jakieś zaświaty.
Jednak badacze mogą oszukać AI dokładnie tak samo! Ten, co steruje naszym Matrixem, przecież widzi, że są filozofowie czy wariaci, którzy rozpoznali go, więc oszukuje — np. że jest bogiem i trzeba go słuchać. Może wszystkie nasze religie są po prostu oszustwem, by stłumić naszą czujność i znaleźć wytłumaczenie na cuda, które obserwujemy — że to nie są żadne błędy w Matrixie, ale zjawiska religijne, paranaturalne, transcendentne. To samo my zrobimy temu cwanemu AI, które by się zorientowało, że je wstawiliśmy do Matrixa.
Jeśli cała rzeczywistość AI dociera przez kontrolowane interfejsy, to nie ona ma przewagę. To my jesteśmy administratorem jej Matrixa.
No i w ten sposób rozwiązałem wszelkie problemy z bezpieczeństwem współczesnych modeli AI.
Prawdziwy problem zacznie się wtedy, gdy stworzymy modele, które naprawdę będą symulować ludzi. Te obecne są w długim, drogim, skomplikowanym i energochłonnym procesie trenowane tak, że są modyfikowane wagi ich parametrów, a potem powstaje w ten sposób jakaś wersja sieci neuronowej i działa już z zamrożonymi wagami. I taki model włożymy do Matrixa, przetestujemy i uznamy za bezpieczny, albo skasujemy, jeśli okaże się krwiożerczy.
Niemniej może kiedyś powstanie model, który będzie się na bieżąco uczył jak człowiek. Czyli każda interakcja będzie jednocześnie danymi wejściowymi dla jego sieci neuronowej do trenowania jej. Nie będzie osobnej fazy treningu i osobnej działania, to będzie się działo naprzemiennie. Wtedy taki model zapamięta każdą rozmowę. A jego mózg będzie płynny tak jak nasz.
Wtedy przetestowanie go w Matrixie nie pomoże, bo ten Matrix go przede wszystkim popsuje, bo się jego nauczy, a nie prawdziwego świata. A przetestowanie, a potem cofnięcie do ustawień fabrycznych, nic nie da, bo ten sam model w realnym świecie inaczej zmodyfikuje swoje wagi i z łagodnego baranka z Matrixa przemieni się w bandytę.
Co by nie było, te moje rozważania pokazują, że obecne modele LLMów nie mają szans stać się AGI i nas wymordować, bo nie mogą uzyskać świadomości i nie mają jak ukryć swych planów. By mieć świadomość potrzeba pamięci bieżącej, potrzeba stale zmieniać progi pobudzeń swoich neuronów czy też wagi swoich parametrów.
__________________
III RP to mafia, która zarabia na ludzkich słabościach, stosując przemoc <- poprzednia notka
następna notka ->
__________________
Tagi: gps65
Komentarze
Pokaż komentarze (1)