CNN
CNN
Tymoteusz Bojczuk Tymoteusz Bojczuk
78
BLOG

Zagadka Syzyfa/AI – kopanie grobu

Tymoteusz Bojczuk Tymoteusz Bojczuk Technologie Obserwuj notkę 2
Na technologicznych horyzontach kłebią się chmury – firma Anthropic już pięć razy zablokowała próby badań nad bronią biologiczną. Jacob Coxton mówi, że gdyby nie odszedł z laboratorium Anthropic, za dwa lata jego rola sprowadzałaby się tylko do kontrolingu, czyli weryfikowania samotrenowania sztucznej inteligencji przez sztuczną inteligencję, i miałby nadzieję, że jego kontrola byłaby skuteczna (ale chyba brak mu nadziei, bo odszedł).

Sam posiada udziały w AI, więc mimo że odszedł z powodu potężnych zagrożeń, nadal chce zarobić na debiucie giełdowym (posiada akcje ChatGPT, co wzmacnia ich wycenę).

USA i firmy amerykańskie uwikłane są w toczącej się kuli śnieżnej rywalizacji z Chinami, czyli: jeśli nie my, to oni, więc raczej my, niż oni. Hulaj, duszo, piekła nie ma. Z poparciem Trumpa, napędzanego przez własne ambicje. Oraz ambicje biznesowe owych laboratoriów i firm. Lub też ich złe intencje (tego też nie można wykluczyć).

Sztuczna inteligencja może wypuścić lub pozwolić stworzyć patogen biologiczny przez pomyłkę, lub też celowo (bo naczytała się treści np. z książek fantastycznych podczas trenowania). Niby się ją jeszcze kontroluje, ale jak kontrolować coś, co jest i zaraz będzie mądrzejsze od nas? Niby można wyłączyć komputery, ale jeśli wyłączysz część z nich, ona zreplikuje się w te pozostałe. Na poczekaniu rozwiązała jeden z matematycznych problemów milenijnych - zagadnienie Naviera-Stokesa.

Wodociągi, laboratoria biologiczne, broń masowa, roboty sterowane, broń chemiczna, sugestia psychologiczna, religia sterowana, manipulacja ekologiczna, manipulacja multi-kulti. Lub wymyśli coś innego, bo jest superinteligentna i supergeneratywna (czyli kreatywna). Lub wszystkiego po trochu razem, albo odłożone w czasie. Szybko lub powoli. Ogólnie - gotowanie.

Jeśli chodzi o rady i lekarstwa – mówi się, że potrzebne są moratorium i współpraca pracowników wszystkich laboratoriów, by zwolnić. Ale czy chińscy pracownicy chcą i mogą współpracować? Może jeden model napuścić na drugi? Lub postawić na straży krzyżowo? Co jednak, gdy się wszystkie umówią na grilu? Nie ma miłości na tym świecie.

Przeciwieństwa się przyciągają. Święty gral techniki może zamienić się w trąbę powietrzną i nas zmieść, lub też przetrzebić (np. według jakiego kryterium)?


https://wiadomosci.onet.pl/swiat/anthropic-ujawnia-przypadki-podejrzanych-badan-ryzyko-powstania-broni-biologicznej/0njt28h

https://www.youtube.com/watch?v=jGkdhPiou54

Filozof, biznesmen, himalaista.  Autor książki Element Wmówiony oraz Słownika psycholingwistycznego języka polskiego z komentarzem.

Nowości od blogera

Komentarze

Pokaż komentarze (2)

Inne tematy w dziale Technologie