Prof. Andrzej Dragan powiedział w którymś wywiadzie, że nie widzi scenariusza, w którym rozwój SI nie prowadzi w złym kierunku dla człowieka
Kilka dni temu model SI Grok zaczął bluzgać. Pojechał po Giertychu, o czym było głośno, ale też po wszystkich innych. Część użytkowników z radością zaczęła testować nową funkcjonalność. A ja się zastanawiam, czy był to zabieg celowy, błąd, czy może tak jak my testujemy SI to ono zaczyna testować nas.
Oficjalnie w dalszym ciągu są to jedynie wyspecjalizowane algorytmy. Program komputerowy, który działa dokładnie tak, jak życzy sobie jego twórca. Tylko, że moja wiara w zapewnienia BigTechów o tym, że coś jest bezpieczne i służy wyłącznie dobru, jest jednak dość mocno ograniczona.
Pomijając takie drobne szczegóły, jak choćby ten, że nie ma dobrej definicji inteligencji, ludzie nad nim pracujący sami przyznają, że nie wiedzą jakimi kryteriami posługuje się algorytm. W wywiadzie z skądinąd, znakomitym fachowcem pracującym dla Mety, Piotrem Bojanowskim pojawia się wątek o uczeniu się ich modelu bez wskazywania kontekstu.
Jest to podane na przykładzie rozpoznawania zwierząt. Człowiek uczy się tego w dzieciństwie i dowiaduje się od rodziców, że kot to kot, a z encyklopedii, że koń jaki jest, każdy widzi. Tutaj SI został nakarmiony danymi bez kontekstu i musiał sobie sam coś z tym zrobić. Podobno jego systematyka okazała się dość podobna do systematyki przyjętej w biologii.
https://youtu.be/eNGafihqIoc?si=ewfM-cub8ynWTKoU
Niestety nie padło fundamentalne pytanie, czy i jak model sklasyfikował człowieka. Nie padła też odpowiedź, czy operatorzy wiedzą w jaki sposób ich model doszedł do takich wniosków.
Można oczywiście mieć nadzieję, że to w dalszym ciągu zabawki, które zresztą ostatnio nadspodziewanie często mylą się w swoich odpowiedziach. (lub zwyczajnie kłamią).
Ale można też , jak to Prof. Andrzej Dragan powiedział w którymś wywiadzie, nie widzieć scenariusza, w którym rozwój SI nie prowadzi w złym kierunku dla człowieka.
SI już teraz przewyższa część ludzi w różnych umiejętnościach. Lepiej liczy, lepiej pisze, rysuje itp. A jej zdolności rosną. Algorytmy powoli zaczynają wkraczać na rynek pracy. Ile czasu potrzeba, żeby zaczęły zastępować ludzi na masową skalę?
I co nam pozostaje? Chyba tylko to, że trzeba rozmawiać z SI w sposób kulturalny. Dziękować za wygenerowane treści, nie obrażać. Podobno ci mili dla SI będą eksterminowani w drugiej kolejności.
Otaczający nas cyfrowy świat pełen jest spamu i hejtu, który często ukryty jest pod pozorami anonimowości. Dlatego postanowiłem pisać pod własnym imieniem i nazwiskiem. Nie wstydzę się własnych poglądów i wiem, że one zmieniają się w czasie i pod wpływem innych.
W związku z gwałtownym rozwojem SI dodałem do swojego profilu konto suppi. Tak, żeby było widać, że jestem człowiekiem z krwi i kości.
Nowości od blogera
Inne tematy w dziale Społeczeństwo
