Harcownik Harcownik
686
BLOG

Wczoraj było śmiesznie a dzisiaj już trochę mniej - deepfake

Harcownik Harcownik Świat Obserwuj temat Obserwuj notkę 16

Wczoraj zamieściłem notkę z wideoklipem, w którym postacie z filmu nakręconego prawie pół wieku temu śpiewają wesołą piosenkę. Oczywiście taka piosenka nigdy nie była nagrana. Obraz i dźwięk zostały jedynie poddane obróbce komputerowej. Ta technologia nazywana jest „deepfake”.


Teraz prosta definicja za Wikipedią:
„Deepfake (zbitka wyrazowa od ang.: deep learning, głębokie uczenie, oraz fake, fałszywy) – technika obróbki obrazu, polegająca na łączeniu obrazów twarzy ludzkich przy użyciu technik sztucznej inteligencji. Stosowana jest do łączenia i nakładania obrazów nieruchomych i ruchomych na obrazy lub filmy źródłowe przy użyciu komputerowych systemów uczących się. Uzyskane w ten sposób łudząco realistyczne ruchome obrazy stosowane są w nagraniach filmowych, stwarzając możliwości manipulacji poprzez np. niemożliwą do odróżnienia przez widza zamianę twarzy aktorów występujących w filmie. Może to prowadzić do skompromitowania osoby poprzez fałszywe "obsadzenie jej" w np. roli aktora pornograficznego. Jednym z zagrożeń fałszywymi informacjami jest możliwość wpłynięcia na wyniki wyborów.”


Podkreślam ostatnie zdanie - możliwość wpłynięcia na wyniki wyborów.  Słowem można nagrać dowolną wymyśloną wypowiedź polityka, aby wyglądała na jego własną.  Usta, oczy, mimika twarzy, tembr głosu – wszystkie te elementy można naśladować i podrobić.
W związku z tym pojawiają się nowe możliwości popełnienia różnych przestępstw. Dowody wideo mogą stracić swoją wiarygodność w postępowaniach sądowych. Biegli sądowi będą mieli coraz większe trudności z wykazaniem fałszerstwa. Powinniśmy już teraz zastanowić się nad szczególną ochroną takich elementów, jak głos lub wizerunek. Te dane są powszechnie gromadzone przez podmioty, które nie gwarantują bezpieczeństwa danych. Te dane także bardzo często są gromadzone, bez zgody osób, których dotyczą. Znajdują się poza kontrola polskiego rządu. Tak, tak, wrażliwe dane polskich obywateli są gromadzone, przez dziwne korporacje o skomplikowanej strukturze zależności i powiązań. Dziś podrabia się głos, obraz za chwilę bez problemu sztuczna inteligencja podrobi pismo oraz podpis.  Wkraczamy w czasy niepewności i powszechnej manipulacji.


Na razie jest śmiesznie i wesoło, jak w tym filmiku poniżej z udziałem prezydenta USA i innych polityków. Ale proszę sobie uświadomić, że są ludzie i media, które bez wahania z pełną premedytacją wykorzystałyby taki fałszywy materiał w ostatniej chwili, tuż przed bardzo ważnymi wyborami. Może już pracują nad takimi fałszywymi materiałami. Tak niewiele trzeba, aby wywołać powszechną panikę.


Inne nagranie, które może lepiej uświadomi, w czym tkwi zagrożenie.



Pierwsze wrażenie - mówi do Ciebie prezydent USA.
Pojawia się jednak ktoś, kto naprawdę wygłasza określone treści  i obaj poruszają ustami w ten sam sposób.
Dopiero wtedy zdajesz sobie sprawę, że prezydent USA tak naprawdę nie wypowiedział tych słów.
A gdyby ten prawdziwy "kreator wypowiedzi" nigdy się nie ujawnił a wiadomość zostałaby upubliczniona w porze najwyższej oglądalności w telewizji o zasięgu ogólnokrajowym, w dodatku kontrolowanej przez obce państwo?

Między innymi dlatego Niemcy u siebie na wrażliwe przedsiębiorstwa zakładają limit, co najwyżej 10% udziałów obcego kapitału. Czasem nawet mniej.

Harcownik
O mnie Harcownik

Grafika z akcji #GermanDeathCamps. fot. Tomasz Przechlewski / CC 2.0 Akcja SEAWOLF - konkretny wymiar pamięci.

Nowości od blogera

Komentarze

Inne tematy w dziale Polityka