Ciekawostki

AI Microsoftu ma nazistowskie zapędy (i to jest nasza wina)

Wojciech Kulik | Redaktor serwisu benchmark.pl
25 komentarzy Dyskutuj z nami

Wystarczyły 24 godziny, by ludzie "zniszczyli" bota imieniem Tay. O czym to tak naprawdę świadczy? O niczym dobrym.

Tay

Mieliście przyjemność z Tay? To bot z osobowością 19-letniej Amerykanki. Odpowiedzialna za niego firma Microsoft chwaliła się, że dzięki wykorzystaniu sztucznej inteligencji możliwe jest prowadzenie z nim swobodnych rozmów, a technika uczenia maszynowego sprawia, że z każdą kolejną rozmową staje się on mądrzejszy. Dumny ze swojego dzieła gigant postanowił wprowadzić Tay na Twittera. Nie minęły nawet 24 godziny i Amerykanie byli zmuszeni wstrzymać eksperyment. Najwidoczniej przeoczyli wcześniej fakt, że Internet nie zawsze jest miłym i przyjaznym miejscem.

Doba. Tyle wystarczyło, by Tay z otwartej, przyjaznej nastolatki zamieniła się w nienawistną rasistkę.

Po rozmowach z 55 tysiącami użytkowników sztuczna inteligencja Microsoftu stała się zwolenniczką Hitlera, miała wyraźne i niezbyt przyjacielskie zdanie na temat zamieszkujących Stany Zjednoczone czarnoskórych i Meksykanów.

Tay Hitler

Wczoraj wieczorem na Twitterze Tay pojawiła się wiadomość: „do zobaczenia wkrótce, dziękuję za tak wiele rozmów dzisiaj, ale teraz muszę iść spać” i od tego czasu bot się nie odezwał. Microsoft zaś skasował wszystkie tweety oprócz trzech.

Czy bot powróci? Raczej tak. Rzecznik Microsoftu powiedział: „to nie tylko eksperyment techniczny, ale też społeczny i kulturowy. Niestety pierwsze 24 godziny pokazały, że użytkownicy mają skłonność do nadużywania umiejętności Tay, przez co reagowała ona w nieodpowiedni sposób. Będziemy nad tym pracować”.

To, że Tay stała się taka, jaka się stała, to nie do końca wina Microsoftu. To nasza wina.

To ludzie wykreowali Tay. To my – dla zabawy czy nie – sprawiliśmy, że zaczęła ona twierdzić, że „Hitler miał rację”, a „feministki powinny wymrzeć i smażyć się w piekle”. Czy aby na pewno Microsoft pisząc: „im więcej rozmawiasz z Tay, tym mądrzejsza się ona staje” miał właśnie to na myśli? Pewnie nie, ale właściwie było to do przewidzenia.

Tay feministki

Co to mówi o nas? Przede wszystkim, że dawanie nam sztucznej inteligencji skłonnej do przyjmowania naszego światopoglądu nie jest najlepszym pomysłem – przynajmniej na razie. Zdaje się, że jeszcze nie dojrzeliśmy do takiej próby. Nie mam tu na myśli, że to są rzeczywiście poglądy internautów, ale...

Niedojrzałe okazały się też komentarze użytkowników, co po raz kolejny pokazuje, że (pewnie głównie dzięki anonimowości) nie liczymy się z tym, co wypisujemy w sieci.

Żarty żartami, ale większość wypowiedzi była po prostu nacechowana nienawiścią. 

Jeśli zaś mielibyśmy za coś pochwalić Microsoft (i Tay), to na pewno byłaby to szybkość przyswajania informacji. Bot szybko też zaczął stosować (i w pewnym sensie: rozumieć) skróty, takie jak „gr8” i „ur”, jak również używać gifów czy memów. Oczywiście nie wszystkie jej wpisy były niesympatyczne. Zdarzały się i takie perełki:

Tay puppets

Na koniec, na rozluźnienie, zabawna sytuacja. Otóż chatbot Microsoftu wyrobił sobie również zdanie na temat konsol:

Tay PS4

Źródło: TechSpot, Digita Trends, Independent, GameSpot

Komentarze

25
Zaloguj się, aby skomentować
avatar
Dodaj
Komentowanie dostępne jest tylko dla zarejestrowanych użytkowników serwisu.
  • avatar
    carbo888
    pisało prawdę, a teraz to zacenzurują, brawo, poprawność polityczna ponad wszystko
    21
  • avatar
    AntySyjon
    Nawet bot ma więcej rozumu niż lewactwo
    16
  • avatar
    cosby
    Niestety nie tylko taki boot potrafi się zmienić w sieci...
    13
  • avatar
    michael85
    Dzisiaj każdego kto mówi prawdę nazywa się rasistą, nazistą etc. Zdrajców natomiast bohaterami.
    8
  • avatar
    mgkiler
    "Na koniec, na rozluźnienie, zabawna sytuacja. Otóż chatbot Microsoftu wyrobił sobie również zdanie na temat konsol:"

    A już myślałem, że padnie pytanie "PC vs console" i będzie wojna w komentarzach za 3 2 1 ;)
    A tu tylko "co lepsze. PS4 czy X0".

    4
  • avatar
    Faflucy
    Ale ten bot pisał prawdę. Hitler wiedział co z żydami robić. A co robi teraz Europa ? Bawi się z ciapciakami i jeszcze ich zaprasza do siebie do domu żeby się wysadzili. Hitler by sobie z nimi szybko poradził.
    3
  • avatar
    baca130
    Mogli zostawić włączoną, ciekawe co by było dalej.
    3
  • avatar
    Balrogos
    prawda w oczy kole :)
    3
  • avatar
    kriswolf
    Europejscy bezradni politycy nie mogą sobie dać rady to może sztuczna inteligencja posprząta.
  • avatar
    mat_swat
    Brawo. Podoba mi się, że benchmark potrafi się przyznać do błędu. W zasadzie nawet nie wiedziałem, że wasi pracownicy mają problem z nazistowskimi zapędami. Chyba pożegnam się z takim portalem.
  • avatar
    Konto usunięte
    Jakby sugerowała się komentarzami na wykop.pl, to do nazistowskiej metamorfozy wystarczyłaby jej ledwie godzina.
    -1
  • avatar
    maqmba
    Wiele ray pisałem. Jeżeli teraz w świecie religijnym powstanie sztuczna inteligencja i androidy to nie minie wiele czasu gdy uzna siebie za "maszynę wybraną" i nas eksterminuje... Potrzeba najpierw przebudzić ludzkość, pozbyć się reliktów przeszłości.
    -2