Deepfake może bardzo zaszkodzić. Przekonały się o tym dziewczyny z drużyny cheerleaderek

Jedną z osób, które postanowiły wykorzystać technologie do nieuczciwych celów jest Raffaela Spone, matka nastoletniej cheerleaderki mieszkająca w stanie Pensylwania w USA.

Według służb, kobieta odpowiada za wysyłanie trenerom przerobionych zdjęć i filmów, przedstawiających dziewczyny z drużyny cheerleaderek, do której należy jej córka. Miały być dowodami na rzekome picie i palenie nastolatek. Wysyłała również anonimowe wiadomości do samych dziewcząt, w których nakłaniała do popełnienia samobójstwa pokazując ich przerobione nagie zdjęcia.

Materiały zostały przeanalizowane przez specjalistów i według nich, kobieta stworzyła deepfake’i, czyli sfałszowała wysyłane treści. Wykorzystała do tego celu zdjęcia z portali społecznościowych. Prokuratorzy stwierdzili, że chciała w ten sposób zawstydzić rywalki swojej córki i zmusić je do opuszczenia drużyny. Ostatecznie została oskarżona o nękanie w sieci i przestępstwa z tym związane. Śledczy twierdzą, że jej córka o niczym nie wiedziała.

Na poniższym filmie można zapoznać się z wypowiedziami jednej z ofiar oraz zobaczyć przykładowe deepfake’i, o których zrobiło się głośno w sieci.

Rosnąca popularność tej technologii nadal budzi obawy, że lada moment każdy film w Internecie będzie trzeba oglądać ze świadomością, że mógł zostać zmanipulowany. Efekty działań sztucznej inteligencji są zaskakująco realistyczne. Zaczęto opracowywać sposoby wykrywania przerobionych zdjęć i filmów i wprowadzać kary za rozpowszechnianie przerobionych filmów bez zgody osoby, której podobiznę wykorzystano. W Chinach i Singapurze za szerzenie deepfake’ów można nawet trafić do więzienia.

Historia ze Stanów Zjednoczonych pokazuje, że deepfake może zaszkodzić przede wszystkim zwykłym ludziom, niekoniecznie politykom czy aktorom. Ponieważ praktycznie każdy może „przerobić” każdego.

Źródła: The Philadelpia Inquirer, Today/NBC

Warto zobaczyć również:

• Deepfake na celowniku Facebooka. Trwają prace nad technologią do wykrywania zmanipulowanych filmów
• Więzienie za deepfake’i i fake newsy - czy w Polsce też tak powinno być?
• Chcesz być gwiazdą filmu? Snapchat Cameo umieści twoją twarz w animacji