YouTube przywraca ludzkich moderatorów, bo sztuczna inteligencja jest nadgorliwa

Sztuczna inteligencja na YouTube bywa nadgorliwa

Właściwie nie ma tygodnia, by któryś z większych youtuberów nie narzekał na to, że serwis zdemonetyzował mu materiały albo w ogóle nie dopuścił do ich publikacji. Prawdziwym problemem stało się to w momencie, w którym rolę ludzkich moderatorów przejęły algorytmy sztucznej inteligencji. Nie można odmówić tym ostatnim błyskawicznej reakcji, ale pod względem dokładności i słuszności decyzji muszą się jeszcze sporo nauczyć. 

Zaledwie sześć miesięcy temu YouTube zapowiedział, że oznaczanie i usuwanie treści naruszających regulamin, będzie teraz w głównej mierze zadaniem sztucznej inteligencji. To ona miała dbać o to, by YouTube był wolny od mowy nienawiści czy dezinformacji. I choć faktycznie mają dużą skuteczność, to niestety często się mylą i usuwają także filmy, które na to nie zasługują. 

Tylko między kwietniem a czerwcem usunięto 11 milionów filmów i w 320 tysiącach przypadków autorzy postanowili się odwołać. Połowa z tych materiałów została przywrócona po tym, jak sprawę zbadali ludzcy moderatorzy. Sztuczna inteligencja nierzadko bywa więc nadgorliwa. 

Ludzcy moderatorzy wracają na YouTube’a

Właściciele YouTube’a przyznają się do błędu i zapowiadają, że ludzcy moderatorzy powrócą. Choć – podkreślmy – nie oznacza to, ze algorytmy całkowicie znikną. To dzięki nim wiele szkodliwych treści zostało usuniętych zanim jeszcze ktokolwiek zdążył je zobaczyć. Ludzie jednak również są potrzebni – choćby ze względu na lepsze rozumienie kontekstu kulturowego i większą zdolność do wyłapywania niuansów. 

Szybkie wyłapywanie szkodliwych treści to coś, czego oczekuje się od YouTube’a, ale też wszystkich popularnych serwisów społecznościowych, takich jak Facebook czy Twitter. Coraz więcej osób spędza tam swój czas i coraz więcej osób szuka tam rzetelnych informacji. Ocena jest często trudna nawet dla ludzkiego moderatora, a co dopiero dla maszyny. 

Najgorsza robota w Internecie

Nie dziwi jednak fakt, że właściciele tego typu serwisów coraz częściej decydują się na wdrażanie rozwiązań moderacyjnych opartych na sztucznej inteligencji. Po pierwsze – ze względu na szybkość ich działania. Po drugie – z powodu obciążenia psychicznego, jakie generuje oglądanie tak szkodliwych materiałów. Nie od dziś mówi się, że moderatorzy mają najgorszą robotę w całym Internecie – to oni oglądają brutalne, wulgarne i ekstremistyczne materiały, żebyśmy my nie musieli tego robić. 

O jak dużym obciążeniu mówimy? Była pracowniczka YouTube’a weszła na drogę sądową, żądając odszkodowania. Oglądanie filmów z dekapitacjami, strzelaninami, molestowaniem czy wykorzystywaniem dzieci zakończyło się dla niej depresją oraz objawami zespołu stresu pourazowego. – „Gdy próbuje zasnąć, w głowie powracają filmy. […] Ma problemy ze snem, a kiedy już śpi, ma przerażające koszmary” – możemy przeczytać w pozwie. 

Moderatorka oskarża byłego pracodawcę o to, że nie zapewnia podwładnym bezpiecznego środowiska pracy, zatrudnia za mało osób i nie dba o ich zdrowie psychiczne. Dlatego żąda nie tylko odszkodowania dla siebie, ale też wdrożenia przez YouTube programu monitorowania medycznego, służącego diagnozie i leczeniu moderatorów treści. 

Zresztą to nie pierwsza tego typu sytuacja. Nie tak dawno oskarżany o to samo Facebook zgodził się na wypłacenie 52 milionów dolarów rekompensaty – pieniądze te trafiły do kilkunastu tysięcy moderatorów ze Stanów Zjednoczonych. 

Źródło: The Verge, CNET, informacja własna

Czytaj dalej o YouTube: 

• Francja rusza do walki ze złem w internecie
• Ale to zleciało! 15 lat temu opublikowano pierwszy film na YouTube
• Filmy na YouTube z Rozdziałami - będziemy przeskakiwać jak na DVD