Internet

Deepfake na celowniku Facebooka. Trwają prace nad technologią do wykrywania zmanipulowanych filmów

z dnia
Marta  Andronik | Redaktor serwisu benchmark.pl
4 komentarze Dyskutuj z nami

Zwycięzcy konkursu Deepfake Detection Challenge ogłoszonego przez Facebooka, opracowali algorytmy wykrywające filmy zmanipulowane przez sztuczną inteligencję z 82% skutecznością.

Deepfake wciąż stanowi spore wyzwanie dla portali społecznościowych. Jest też źródłem obaw wielu specjalistów o wiarygodność filmów umieszczanych w przestrzeni publicznej.

Praktycznie każdy może stworzyć zmanipulowane nagranie przy wykorzystaniu sztucznej inteligencji. Umieszczając taki spreparowany klip w internecie, niezwykle łatwo można rozpropagować treści fałszujące rzeczywistość. A niektóre z tych filmów są naprawdę dobrze wykonane.

Deepfake Detection Challenge

Facebook niedawno ogłosił zwycięzców Deepfake Detection Challenge (DFDC). Konkurs ruszył w zeszłym roku i wzięło w nim udział ponad 2 tysiące uczestników z całego świata, którzy zgłosili 35 tysięcy algorytmów. Celem wyzwania było opracowanie skutecznego systemu wykrywania i oznaczania filmów zmanipulowanych przez sztuczną inteligencję.

Na organizację konkursu Facebook wydał około 10 milionów dolarów. Zadbano o stworzenie 100 tysięcy krótkich filmów, wyglądających jak amatorskie nagrania z portali społecznościowych. Następnie podzielono je na zestawy publicznie dostępne oraz „black box”.

W przypadku zestawów publicznych, uczestnicy konkursu opracowali algorytmy wykrywające sfałszowane nagrania z ponad 82% dokładnością. Z kolei „black box” zawierał 10 tysięcy filmów, w których zastosowano dodatkowe manipulacje (zmieniona jakość lub liczba klatek, dodane obrazy itp.). Tutaj było trochę trudniej, a dokładność zwycięskiego algorytmu wyniosła nieco ponad 65%.

Facebook chce kontrolować deepfake

Firma twierdzi, że efekty konkursu okazały się sporym sukcesem, a postępy w pracach zajęły zaledwie kilka miesięcy. Wyniki są obiecujące, jednak minie jeszcze sporo czasu zanim systemy będą naprawdę sprawnie wykrywać fałszywe filmy.

Mike Schroepfer (dyrektor ds. technologii Facebooka) uważa, że na razie deepfake nie sprawia kłopotów na większą skalę. Powiedział, że:

„Obecnie nie jest to duży problem, ale brak narzędzi do automatycznego wykrywania i egzekwowania określonej formy treści naprawdę ogranicza naszą zdolność do robienia tego dobrze na dużą skalę”.

Zwycięskie algorytmy zostaną udostępnione w ramach open source, aby pomóc innym naukowcom w rozwijaniu ich badań. Schroepfer powiedział, że Facebook już korzysta z własnej technologii do wykrywania niektórych deepfake’ów, która jest ciągle rozwijana i ulepszana. Jednak firma nie poinformowała ile filmów udało się do tej pory automatycznie zidentyfikować i oznaczyć, zatem można przypuszczać, że nadal nie osiągnięto zadowalającego wyniku.

Social media mają coraz większą władzę

Alex Stamos (były szef bezpieczeństwa Facebooka) już dawno ostrzegał przed zbyt dużą kontrolą spoczywającą w rękach korporacji technologicznych. Twierdzi, że problem dezinformacji w krajach demokratycznych nigdy tak do końca nie ostanie rozwiązany. Zauważył też, że jeżeli rządy nadal będą zgadzały się na ograniczanie przez korporacje tego, co można w internecie a czego nie, może to w końcu doprowadzić do moderacji wszystkiego co publikujemy.

Jak myślicie, czy rozpoznawanie deepfake’ów będzie kolejnym krokiem do zwiększenia kontroli algorytmów nad treściami, które będzie można umieszczać w internecie? Wzrośnie ilość usuwanych wpisów w mediach społecznościowych? A może w efekcie okaże się to pozytywne i pomoże utrzymać porządek w sieci?

Źródła: engadget, theverge, cyberdefence24, wired

Warto zobaczyć również:

Komentarze

4
Zaloguj się, żeby skomentować
avatar
Dodaj
Komentowanie dostępne jest tylko dla zarejestrowanych użytkowników serwisu.
  • avatar
    chyba to 1 dobra rzecz od wielu miesiecy albo od zawsze ktora chce fb zrobić. takie fake video to za niedlugo będzie syf internetu. przydałby sie taki "adblock" dla takich filmów
  • avatar
    Przecież na FB panuje mafijna (polityczna) cenzura. Już kilkukrotnie usuwano moje materiały z informacją że "program demagog uznał materiał za nieprawdziwy". Za każdym razem były to materiały i wypowiedzi niewygodne dla zdrajców okupujących Polskę, szumowin nazywających się "rządem RP". Wnioski wyciągnijcie sami.
    -3
  • avatar
    Zwykłe trole internetowe takich technologii nie rozwijają. Inżynierowie-programiści, którzy robią to, zapewne za solidnie opłacane granty, chyba nie do końca zdają sobie sprawę, że robią coś co w zasadzie nie ma dobrych zastosowań. Za pomocą tej techniki można jedynie oszukiwać. Jedyne pozytywne wyjaśnienie może być takie, że to trochę tak jak z bronią atomową. Jak jej nie zbudujesz to nie będziesz miał możliwości odpowiedzi na ataki ze strony przeciwnika. Poznanie techniki fałszerstwa ułatwia później jego wykrycie. Tylko czy przy okazji, twórcy tego sposobu oszukiwania nie otwierają puszki Pandory?
  • avatar
    Jak zaczęli fałszować zdjęcia to potrzebne były nagrania dzwękowe, jak zaczęli fałszować nagrania dźwiękowe to potrzebny był (nadal jest) film. Teraz chyba będą hologramy.