czeQfli czeQfli
60
BLOG

Czy AI kataloguje użytkowników na niebezpiecznych, pyskujących i głupich?

czeQfli czeQfli Technologie Obserwuj notkę 2
Po ostatnich wydarzeniach służby coraz uważniej przyglądają się internetowej aktywności potencjalnych sprawców przestępstw. Analizowane są komputery, kontakty, zainteresowania i rozmowy prowadzone w sieci. Okazuje się, że w kręgu zainteresowania mogą znaleźć się również konwersacje ze sztuczną inteligencją.

Przykładem jest sprawa 47-letniego mieszkańca warszawskiego Wilanowa. W październiku polska policja zapukała do jego mieszkania po informacji przekazanej przez francuskie służby. Według przekazanych informacji treść rozmów mężczyzny z wykorzystaniem AI mogła wskazywać na zagrożenie życia i zdrowia innych osób. Policjanci przyjechali w środku nocy. Mężczyzna wyjaśniał, że rozważał hipotetyczne scenariusze, a nie planował żadnej zbrodni.

Sprawa pokazuje, że rozmowa z chatbotem niekoniecznie pozostaje wyłącznie rozmową z chatbotem.
I tu zaczyna się problem. Czy człowiek interesujący się terroryzmem jest terrorystą? Czy pytanie o ideologię Breivika oznacza popieranie jego zbrodni? Czy krytykowanie władzy, kwestionowanie oficjalnych komunikatów albo zadawanie niewygodnych pytań może wzbudzić zainteresowanie systemów bezpieczeństwa?

Oczywiście bezpieczeństwo jest ważne. Nikt rozsądny nie będzie bronił przygotowywania zamachów. Ale równie ważna jest granica między rzeczywistym zagrożeniem a zwykłą ludzką ciekawością.
Można sobie wyobrazić cyfrową szafę z szufladami: w jednej niebezpieczni, w drugiej podejrzani, w trzeciej politycznie niewygodni. Osobna przegródka dla pyskujących, a może nawet dla tych, których algorytm uznał za niezbyt rozgarniętych.
Nie ma dowodów, że firmy AI prowadzą takie kartoteki według poglądów czy inteligencji użytkowników. Wiadomo jednak, że rozmowy mogą być analizowane pod kątem bezpieczeństwa, niektóre poddawane dodatkowej kontroli, a w określonych sytuacjach informacje mogą trafiać do służb.

Problem w tym, że algorytm nie zna intencji człowieka. Widzi słowa, analizuje wzorce i może wyciągać błędne wnioski. A pomyłka w takiej sprawie może mieć całkiem realne konsekwencje.
Najgorsze byłoby to, gdyby użytkownicy zaczęli autocenzurować własne myśli. Nie pytać, nie dociekać, nie dyskutować, bo jeszcze ktoś lub coś uzna ich zainteresowania za podejrzane.
Ciekawość nie jest przestępstwem, krytyka nie jest ekstremizmem, a niewygodne pytanie nie jest dowodem złych zamiarów.

Sztuczna inteligencja miała pomagać ludziom myśleć. Nie powinna stawać się narzędziem, które pochopnie ocenia człowieka na podstawie kilku zdań wyrwanych z kontekstu.
I pozostaje pytanie zasadnicze: kto kontroluje tych, którzy kontrolują?
Bo jeśli powstaje cyfrowa szafa z szufladami dla użytkowników, warto wiedzieć, kto przykleja na nich etykietki, według jakich kryteriów i czy sam również podlega ocenie.










Tekst jest próbą zwrócenia uwagi na problem prywatności użytkowników narzędzi AI, granic automatycznej analizy treści i odpowiedzialności za błędną ocenę ludzkich wypowiedzi. 

czeQfli
O mnie czeQfli

Piszę z pogranicza idei i faktów. Interesuje mnie to, co polityczne, zanim stanie się decyzją — i to, co filozoficzne, zanim zostanie nazwane. Eseje, komentarze, refleksje — czasem z nutą ironii, czasem z powagą. Nie szukam odpowiedzi, lecz lepszych pytań.  

Nowości od blogera

Komentarze

Pokaż komentarze (2)

Inne tematy w dziale Technologie