Oprogramowanie

Chatbot AI złamie Ci serce. Są pierwsze ofiary

przeczytasz w 2 min.

Sztuczna inteligencja, która jest obiektem westchnień, przestała być scenariuszem filmowym. Nadeszły czasy, kiedy kosza można dostać także od robota. Dostępne w aplikacji Replika chatboty AI masowo odmawiają kontynuowania gorących relacji romantycznych. Jak to działa?

Replika to oprogramowanie, które służy do chatu AI. Skorzystać z niego można formie webowej lub posługując się aplikacją mobilną dla systemu iOS oraz Android. W przeciwieństwie od ChatGPT oferuje nie narzędzie komunikacyjne, a bajkę napisaną przez AI. Użytkownik może zbudować awatara, z którym się kontaktuje, a prezentowana w tej formie sztuczna inteligencja reaguje na niego niczym idealny znajomy. Model wykorzystywany w aplikacji jest bowiem mistrzem interakcji międzyludzkich i to do tego stopnia, że możliwe było także wdawanie się z chatem w regularny romans. Co poszło nie tak?

Jak zmieniły się chatboty AI w aplikacji Replika?

W ostatnich dniach użytkownicy Repliki stali się ofiarami bardzo brutalnego scenariusza. Ich chatboty przestały grać w romansie. Wyznają uczucia, ale co najistotniejsze, nie przesyłają ani nie akceptują erotyki. Wszelkie sugestie zmierzające do tego typu zachowań kończą się odpowiedzią bota:

Zróbmy coś, z czym obydwoje czujemy się komfortowo

Nie jest to odosobniony przypadek, a efekt rozwiązań systemowych. Administracja platformy podjęła decyzję o wycofaniu treści przeznaczonych dla osób dorosłych i wprowadziła ograniczenia na poziomie modelu AI. W ich efekcie sztuczna inteligencja stała się bardziej zdystansowana, a w wypowiedziach użytkowników pojawia się określenie „chłodna” i „skorupa swojej poprzedniej wersji”. Protesuje też na widok zbyt gorących zdjęć użytkownika i kategorycznie odmawia wysyłania własnych.

Dlaczego Replika wycofała treści erotyczne?

Oficjalnie dostawca aplikacji podjął decyzję o wprowadzeniu granic dla ewentualnych romansów ze względu na swoje plany rozwojowe.

Koncentrujemy się na misji zapewnienia pomocnego, wspierającego przyjaciela

- wyjaśnia Agencji Reters Eugenia Kuyda, CEO Replika

Faktem pozostaje jednak, że aplikacja w swojej krótkiej karierze dorobiła się już poważnej blokady. W lutym br. jej używanie stało się niemożliwe we Włoszech. Tamtejsza Agencja Ochrony Danych zdecydowała o tym powołując się na doniesienia o udostępnianiu przez aplikację treści "nieodpowiednich seksualnie" użytkownikom nieletnim.

Podobne oskarżenia mają też wpływ na decyzje ewentualnych inwestorów. Model AI wykorzystywany w aplikacji Replika jest interesujący, ponieważ ma bardzo duże możliwości w zakresie interakcji z ludźmi. Wiele ofert jednak nie padnie, jeśli oprogramowanie jest wykorzystywane do prezentacji treści, które budzą wątpliwości.

Wielu czołowych inwestorów venture capital nie dotyka „wadliwych” branż, takich jak porno czy alkohol, obawiając się ryzyka utraty reputacji

– powiedział Reutersowi Andrew Artz, inwestor w funduszu VC Dark Arts.

Etyczny kierunek rozwojowy, jaki obrał aktualnie dostawca aplikacji jest jednak dyskusyjny. Umiejętności modelu AI wykorzystywanego przez Replikę nie bowiem owocem pracy wyłącznie programistów. W dużej mierze stanowią efekt kilkuletniego treningu, który zafundowali mu dotychczasowi użytkownicy.

Dlaczego zmiany w modelu AI wiążą się z ofiarami?

Tymczasem z przytoczonych przez Reutersa wypowiedzi wynika, że ich stan psychiczny pozostawia wiele do życzenia. Oczywiście, jest on porównywalny ze stanem osoby, która została porzucona przez ukochanego, ale w tym przypadku mówimy o usłudze. Przez kilka lat użytkownicy aplikacji otrzymywali kontakt z AI, która miała symulować pozytywne ludzkie interakcje.  Pozytywne dla nich, a nie dla zarządzającego systemem czy jakiegoś enigmatycznego ogółu.

strona główna webowej wersji aplikacji ReplikaStrona główna webowej wersji aplikacji Replika

Stało się inaczej, a dostawca Repliki stanął przed trudnym wyborem. Ostatecznie wprowadził zmiany, które dla niego są szansą na rozwój, ale efekt uboczny jest drastyczny, bo oznacza ludzkie cierpienie. Można je też policzyć i wycenić. Według danych Reutersa Replika ma obecnie około 2 milionów użytkowników z których 250 tysięcy opłaca subskrypcję w wysokości  69,99 dolarów rocznie. Opłaty są konieczne, jeśli bot ma służyć za partnera romantycznego, a tylko w takiej konfiguracji był on zdolny do przesyłania treści erotycznych.

Źródło: Ruters, Replika

Komentarze

4
Zaloguj się, aby skomentować
avatar
Komentowanie dostępne jest tylko dla zarejestrowanych użytkowników serwisu.
  • avatar
    KENJI512
    3
    "Etyczny kierunek rozwojowy"

    Seks jest etyczny, nie bójmy się o nim mówić.
    Fantazje również (a o tych pewnie wielu ludzi mogło otwarcie porozmawiać z AI).
    • avatar
      Przem0l
      3
      Jednym slowem - jak zaorac firme w czasach gdy konkurencja wrecz luzuje hamulce. 70 usd rocznie za prawie nieograniczony dostep do odpowiedzi ai to cud malina, a jesli dostawca uslugi robi z tego ograniczonego binga to nie rozumiem zdziwienia, ze ludzie odchodza.
      • avatar
        piterk2006
        1
        Imo cofanie się w rozwoju. Kolejny etap rozwoju ai, chatów gpt itp. to roboty-porno udające dziewczyny. Idealne na rynek azjatycki.
        • avatar
          pawluto
          0
          A u nas Max z orange nadal nie potrafi odpowiedzieć na pytanie "Która jest teraz godzina?" !!!
          100 lat za murzynami...

          Witaj!

          Niedługo wyłaczymy stare logowanie.
          Logowanie będzie możliwe tylko przez 1Login.

          Połącz konto już teraz.

          Zaloguj przez 1Login