Hamuj się, trollu. Oto narzędzie, które cię pokona

Chyba każdy internauta spotkał się z komentarzami, które spełniają prawidła “łaciny podwórkowej”. Szeroko pojęta mowa nienawiści to integralna część sieci, podobnie jak aktywność internetowych trolli. To z kolei powoduje, że codziennie korzystanie z sieci może być uciążliwe, nie wspominając o rozwijaniu firmy lub marki.

I chociaż pojawiają się pomysły, które teoretycznie mają problem wyeliminować (np. kary za mowę nienawiści), tak problematyczne może okazać się ustalenie granicy, po przekroczeniu której mniej lub bardziej konstruktywna krytyka przeobraża się w rzeczoną mowę nienawiści. Być może sztuczna inteligencja poradzi sobie z tym wyzwaniem, a konkretniej oprogramowanie TrollWall AI.

TrollWall AI to słowacki startup, która dostarcza oprogramowanie chroniące profile w mediach społecznościowych przed mową nienawiści oraz atakimi trolli. Oprogramowanie działa w czasie rzeczywistym; dzięki wykorzystaniu sztucznej inteligencji, możliwe staje się automatyczne wykrywanie i blokowanie niechcianych treści.

Narzędzie TrollWall AI jest w stanie zidentyfikować toksyczną treść na podstawie kontekstu językowego oraz używanych emotikonek. Wykorzystanie zaawansowanych algorytmów pozwala rozpoznać obraźliwe treści wszelkiej maści: od ksenofobii, przez komentarze seksistowskie po rasizm i inne formy przemocy słownej.

Osoby korzystające z TrollWall AI mogą personalizować narzędzie poprzez dodanie własnych słów kluczowych, których z jakiegoś powodu nie tolerują. W konsekwencji TrollWall AI ukrywa komentarze w taki sposób, aby nie były widoczne dla postronnych internautów.

Korzyści płynące ze stosowania TrollWall AI to np. podniesienie komfortu użytkowania poprzez stworzenie bardziej przyjaznej przestrzeni dla internautów. Ochrona reputacji firmy lub dbanie o jej wizerunek w sieci również mogą na tym skorzystać. TrollWall AI ułatwi jednocześnie moderację treści.

Ciekawostką jest fakt, że TrollWall AI jest wykorzystywany przez pałac prezydencki Zuzany Čaputovej, czyli pierwszej kobiety, która została wybrana na urząd prezydenta Słowacji. Co więcej, w Czechach narzędzie pomogło w ochronie kampanii wyborczej Prezydenta Petra Pavla (zmniejszono liczbę toksycznych komentarzy o 98 proc.).

Teraz nadszedł czas na Polskę. Oprogramowanie trafi na nasze rodzime podwórko dosłownie za chwilę. TrollWall AI będzie dostępny w Polsce od lutego 2024 r. Co sądzicie o takim rozwiązaniu? Koniecznie dajcie znać w komentarzach (oby nie były nienawistne!).

Źródło: PAP