0 obserwujących
93 notki
53k odsłony
  206   0

Sztuczna inteligencja w roli cenzora?

Facebook zablokował ostatnio wyprodukowany przez IPN film o niemieckim obozie dla dzieci w Łodzi. Film dostępny na stronie: https://fb.watch/3ef38K5Mxa/

Zetknąłem się z historią tego obozu kilka lat temu.

Znajoma Japonka, od lat mieszkająca w Polsce i pracująca jako tłumaczka, pomagała dziennikarzom jednego z największych japońskich dzienników w napisaniu artykułu o tym obozie. Dziennikarze ci rezydowali na stale w Berlinie, ale w ramach swoich obowiązków pisali też artykuły o Polsce. Byli bardzo zadowoleni z artykułu. Jednak ostatecznie artykuł nie ukazał się w japońskiej gazecie. Gdy znajoma Japonka zapytała dlaczego nie opublikowali artykułu dostała odpowiedź, że niemieccy współpracownicy japońskich dziennikarzy odradzili im to. Wytłumaczyli, że to nie do końca prawda co napisali. Że to nie był obóz pracy tylko sierociniec. Że luksusów nie było, bo wojna. Itp.

Nie zagłębiłem się w ten temat. Nie chcę dyskutować o tym czy to obóz czy sierocińcu.

    ***

Ostatnio sporo takich „cenzorskich” przypadków:

Część tych działań to były świadome decyzje podejmowane przez konkretne osoby.

Ale część tych operacji była wykonana automatycznie.

Tych drugich działań będzie najpewniej coraz więcej.

    ***

Krytyczne w tej sytuacji są dwa elementy.

  • Pierwszy to wprowadzanie prawnych mechanizmów kontrolujących automatyczne działanie algorytmów. Chyba (nie jestem prawnikiem) tego problemu dotyczy i przynajmniej częściowo próbuje rozwiązywać artykuł 22 dyrektywy GDPR. Ale pewnie od strony prawnej ciągle trzeba nadążać za zmianami w tym obszarze IT.
  • Natomiast drugi to stosowanie w projektach uczenia maszynowego (AI) metod weryfikujących dlaczego zbudowany model podejmuje takie, a nie inne decyzje. O ważności tematu świadczy chociażby to, kto się nimi zajmuje: na przykład DARPA i Komisja Europejska. Budując model przy wykorzystaniu uczenia maszynowego zawsze powinniśmy weryfikować ostatecznie zbudowany model. Jeden z pierwszych artykułów na temat tego zagadnienia: https://arxiv.org/pdf/1602.04938v1.pdf.

W przypadku filmu zablokowanego przez Facebooka dobrze byłoby wiedzieć, które fragmenty filmu i dlaczego była podstawą decyzji o uznaniu filmu za polityczny i jego zablokowaniu. I na tej podstawie chyba jednak trochę ulepszyć algorytm.

     ***

Z opisanej na początku historii z artykułem widać, że do blokowania pewnych treści (a pewnie i promowania innych) nie jest potrzebny Facebook, Twitter czy inne medium społecznościowe.

Nie wiem czy to z mojej strony nie jest zbyt duży internetowy optymizm, ale …

Czytelnicy japońskiej gazety nie mieli szansy na przeczytanie przygotowanego, ale nie opublikowanego ostatecznie artykułu.

Treści zablokowane w Internecie na ogół nie tylko dotrą do odbiorców, ale wzmocnione tą szczególną "reklamą" zdobędą dużo większy rozgłos.

Lubię to! Skomentuj4 Napisz notkę Zgłoś nadużycie

Więcej na ten temat

Salon24 news

Komentarze

Inne tematy w dziale Technologie