Szef Anthropic ostrzega, że AI może posłużyć do kontroli społeczeństwa. Jak na Salonie24?

AI jako narzędzie opresji służące do kontrolowania obywateli – przed taką wizją ostrzega Dario Amodei, prezes Anthropic, twórców jednego z najlepszych i najpopularniejszych modeli językowych, czyli Claude. Wzywa on do jak najszybszego uregulowania branży, która od kilku lat rozwija się bez jakiegokolwiek nadzoru. Więcej na ten temat dowiecie się z poniższego, krótkiego wideo oraz jego transkrypcji.

https://www.komputerswiat.pl/nauka-i-technika/sztuczna-inteligencja/szef-anthropic-ostrzega-ai-moze-posluzyc-do-kontrolowania-spoleczenstwa/0chhwyw

...

Trudno się nie zgodzić z panem Dorio Amodei. Rzecz w tym, że to już się dzieje. Ba, nawet tuż pod naszym nosem, np. na Salonie24. Wprowadzony tu niedawno model AI nadzorujący treści usuwa bez większego, albo żadnego powodu setki komentarzy dziennie, jak nie więcej. Sam tego doświadczyłem już nie raz. Powody tych usunięć są iście niedorzeczne, albo trudne do zweryfikowania. Żeby komentarz został usunięty nie muszą się w nim znajdować jakieś niecenzuralne słowa. Komentarze są oceniane przez ten program od strony merytorycznej, a to już jest klasyczna cenzura. Model tu używany jest w dodatku bardzo prymitywny, bo nie potrafi odczytać poprawnie intencji autora i usuwa komentarz np. za to, że znajduje się w nim opis jakiegoś drastycznego wypadku czy wydarzenia, powiedzmy: "X został zamordowany w drastyczny sposób: odcięto mu głowę, a przedtem długo torturowano". Sprawdźmy czy da się na tym portalu poinformować czytelnika w komentarzu o tym, że ktoś był torturowany następnie zamordowany poprzez odcięcie mu głowy. Może to jest i drastyczne, ale od kiedy słowo "zamordowany" jest słowem niecenzuralnym a zwrot "odcięto mu głowę" zwrotem wulgarnym? To tylko opisanie FAKTU. Nikt nikomu nie groził odcięciem głowy. Niestety, stosowany przez nich program nie potrafi tego odróżnić. To oczywiście tylko pewien skrajny przykład, ale pokazujący sposób działania tego programu. Jak nie wierzycie, spróbujcie opublikować to zdanie w komentarzu. Ja przed chwilą to zrobiłem i oto skutek:

Tuż po publikacji komentarza, ale jeszcze przed przeładowaniem strony:

Po przeładowaniu strony zostaje po nim tylko tradycyjna informacja:

Tak więc jakbym chciał poinformować czytelników Salonu24 o tego typu zdarzeniu nie udało by mi się tego zrobić w komentarzu. Dwa razy zdarzyło mi się, że usunięto mi komentarz, w którym... zacytowałem fragment artykułu z Onetu. Sądzę, że bez problemu moglibyśmy znaleźć cytaty z Biblii, które również wywołałyby podobną reakcję. Komu i do czego to ma niby służyć? Czy to nie jest zbyt daleko idąca ingerencja w treści publikowane przez internautów? Czy ktoś się w tej Administarcji nad tym zastanawiał? Dlaczego tak im na tym zależy? Czyżby pod pretekstem redagowania treści wulgarnych ustawiali ten program jeszcze w jakimś innym celu? Mogą np. ustawić go tak, żeby był trochę bardziej tolerancyjny dla treści jednej opcji politycznej czy światopoglądowej. Trudno będzie to zweryfikować.

Tak czy owak, stosowanie takiego programu nie świadczy raczej o szacunku administrujących tym forum do jego użytkowników, który poświęcają swój czas również na pisanie komentarzy, które są usuwane z niewiadomych powodów. Muszą mieć jednak tego świadomość, że program nadużywa swojej funkcji skoro nie dopuścili go do redagowania treści notek, w których ta sama treść nie powoduje ich usunięcia. Czemu więc tak im zależy, żeby usuwać akurat nasze komentarze? Bo umieszczone pod popularnym wpisem mają o wiele większy zasięg, niż notki blogerów?

Dla mnie odpowiedź na to akurat pytanie jest oczywista.