Internet

YouTube przywraca ludzkich moderatorów, bo sztuczna inteligencja jest nadgorliwa

z dnia
Wojciech Kulik | Redaktor serwisu benchmark.pl
13 komentarzy Dyskutuj z nami

Eksperyment YouTube’a zakończył się porażką. Algorytmy sztucznej inteligencji nie są w stanie zastąpić ludzkich moderatorów, a przynajmniej nie w stu procentach.

Sztuczna inteligencja na YouTube bywa nadgorliwa

Właściwie nie ma tygodnia, by któryś z większych youtuberów nie narzekał na to, że serwis zdemonetyzował mu materiały albo w ogóle nie dopuścił do ich publikacji. Prawdziwym problemem stało się to w momencie, w którym rolę ludzkich moderatorów przejęły algorytmy sztucznej inteligencji. Nie można odmówić tym ostatnim błyskawicznej reakcji, ale pod względem dokładności i słuszności decyzji muszą się jeszcze sporo nauczyć. 

Zaledwie sześć miesięcy temu YouTube zapowiedział, że oznaczanie i usuwanie treści naruszających regulamin, będzie teraz w głównej mierze zadaniem sztucznej inteligencji. To ona miała dbać o to, by YouTube był wolny od mowy nienawiści czy dezinformacji. I choć faktycznie mają dużą skuteczność, to niestety często się mylą i usuwają także filmy, które na to nie zasługują. 

Tylko między kwietniem a czerwcem usunięto 11 milionów filmów i w 320 tysiącach przypadków autorzy postanowili się odwołać. Połowa z tych materiałów została przywrócona po tym, jak sprawę zbadali ludzcy moderatorzy. Sztuczna inteligencja nierzadko bywa więc nadgorliwa. 

Ludzcy moderatorzy wracają na YouTube’a

Właściciele YouTube’a przyznają się do błędu i zapowiadają, że ludzcy moderatorzy powrócą. Choć – podkreślmy – nie oznacza to, ze algorytmy całkowicie znikną. To dzięki nim wiele szkodliwych treści zostało usuniętych zanim jeszcze ktokolwiek zdążył je zobaczyć. Ludzie jednak również są potrzebni – choćby ze względu na lepsze rozumienie kontekstu kulturowego i większą zdolność do wyłapywania niuansów. 

Szybkie wyłapywanie szkodliwych treści to coś, czego oczekuje się od YouTube’a, ale też wszystkich popularnych serwisów społecznościowych, takich jak Facebook czy Twitter. Coraz więcej osób spędza tam swój czas i coraz więcej osób szuka tam rzetelnych informacji. Ocena jest często trudna nawet dla ludzkiego moderatora, a co dopiero dla maszyny. 

Najgorsza robota w Internecie

Nie dziwi jednak fakt, że właściciele tego typu serwisów coraz częściej decydują się na wdrażanie rozwiązań moderacyjnych opartych na sztucznej inteligencji. Po pierwsze – ze względu na szybkość ich działania. Po drugie – z powodu obciążenia psychicznego, jakie generuje oglądanie tak szkodliwych materiałów. Nie od dziś mówi się, że moderatorzy mają najgorszą robotę w całym Internecie – to oni oglądają brutalne, wulgarne i ekstremistyczne materiały, żebyśmy my nie musieli tego robić. 

O jak dużym obciążeniu mówimy? Była pracowniczka YouTube’a weszła na drogę sądową, żądając odszkodowania. Oglądanie filmów z dekapitacjami, strzelaninami, molestowaniem czy wykorzystywaniem dzieci zakończyło się dla niej depresją oraz objawami zespołu stresu pourazowego. – „Gdy próbuje zasnąć, w głowie powracają filmy. […] Ma problemy ze snem, a kiedy już śpi, ma przerażające koszmary” – możemy przeczytać w pozwie. 

Moderatorka oskarża byłego pracodawcę o to, że nie zapewnia podwładnym bezpiecznego środowiska pracy, zatrudnia za mało osób i nie dba o ich zdrowie psychiczne. Dlatego żąda nie tylko odszkodowania dla siebie, ale też wdrożenia przez YouTube programu monitorowania medycznego, służącego diagnozie i leczeniu moderatorów treści. 

Zresztą to nie pierwsza tego typu sytuacja. Nie tak dawno oskarżany o to samo Facebook zgodził się na wypłacenie 52 milionów dolarów rekompensaty – pieniądze te trafiły do kilkunastu tysięcy moderatorów ze Stanów Zjednoczonych. 

Źródło: The Verge, CNET, informacja własna

Czytaj dalej o YouTube: 

Komentarze

13
Zaloguj się, aby skomentować
avatar
Dodaj
Komentowanie dostępne jest tylko dla zarejestrowanych użytkowników serwisu.
  • avatar
    Dekard
    Niestety każda AI polegnie na sprzecznej ludzkiej logice.
    Twórcy AI chyba już zdali sobie sprawę, że AI która mogłaby służyć ludziom, musi być zaprojektowana wbrew zasadom logiki.
    Ludzki umysł jest ograniczony i przez to niezdolny do myślenia w sposób idealnie konsekwentny logicznie.
  • avatar
    develoop
    Brawo, może w końcu będą w Polecanych bardziej mądrzejsze filmy, niż tylko te pato-stream, czy jakieś inne wybryki dla gówniaków.
  • avatar
    BrumBrumBrum
    czy w guglu na serio nie wiedzą że ludzcy moderatorzy mogą weryfikować pracę botów aby te zaczęły podejmować bardziej trafne decyzje?
  • avatar
    mutissj
    być może teraz kanały prawicowe przestaną narzekać
  • avatar
    Kenjiro
    Szkoda, że taki FB czy YT nie może zrobić "wjazdu na chatę" takim uploadującym drastyczne materiały. Już po jednej pacyfikacji chęci do kolejnych wybryków by znacząco zmalały...
    -1
  • avatar
    owatanka
    Ziobro by sie swietnie nadawal na moderatora ... ma bardzo krotka pamiec i mam wrazenie ze nigdy nie spi :)