Sztuczna inteligencja posuwa się zbyt daleko. Jeden z inżynierów firmy Microsoft przestrzega przed zagrożeniami, które może tworzyć generator obrazów Copilot Designer – technologia nie tylko tworzy obraźliwe treści, ale też ma łamać prawa autorskie.
Sztuczna inteligencja przeżywa prawdziwy rozkwit, a firmy serwują nam kolejne rozwiązania oparte o algorytmy uczenia maszynowego. Coraz powszechniejsze staje się też generowanie obrazów przy wykorzystaniu AI, co pozwala stworzyć np. wirtualnych influencerów. Problem w tym, że nie wszyscy kontrolują algorytmy, a technologia posuwa się zbyt daleko.
Inżynier Microsoft alarmuje
Inżynier firmy Microsoft Shane Jones opublikował list otwarty do Federalnej Komisji Handlu (FTC), w którym prosi urzędników o zbadanie zagrożeń związanych z Copilot Designer – popularnej usługi do generowania obrazów z wykorzystaniem sztucznej inteligencji (wcześniej znanej jako Bing Image Generator). Usługę rozwija laboratorium OpenAI, które opracowało silnik DALL-E (napędzający usługę Copilot Designer).
Według Jonesa, generator może tworzyć obraźliwe treści, od zdjęć kobiet o charakterze seksualnym, po obrazy nastolatków bawiących się w zabójców z karabinami szturmowymi. Nie są to jedyne zagrożenia. Redakcja Tom’s Hardware zwraca uwagę, że problemem jest również powszechne wykorzystywanie wizerunku postaci chronionych prawami autorskimi (np. Myszki Miki czy Darth Vadera).
Jones nie pracuje w zespole AI w Microsoft, więc nie brał udziału w tworzeniu Copilota. Pracownik alarmował firmę, prosił o natychmiastowe zawieszenie dostępności DALL-E zarówno w produktach OpenAI, jak i za pośrednictwem interfejsu API, ale został zbyty i odesłano go do działu Odpowiedzialnej Sztucznej Inteligencji. Po opublikowaniu w grudniu swojego listu, Microsoft nakazał mu usunięcie postu, prawdopodobnie w celu uniknięcia negatywnego rozgłosu.
Technologia daje duże możliwości, ale nie jest odpowiednia dla wszystkich użytkowników. Jones apeluje, by Copilot Designer na Androida był dostępny w kategorii od 17 roku życia. Pracownik ostrzega rodziców i nauczycieli, że aplikacja jest nieodpowiednia dla dzieci.
W szczególności potrzebujemy solidnej współpracy w całej branży oraz z rządami i społeczeństwem obywatelskim, a także budowania świadomości społecznej i edukacji na temat zagrożeń związanych ze sztuczną inteligencją, a także korzyści z niej płynących.
Nie są to pierwsze sygnały, które ostrzegają przed zagrożeniami związanymi z wykorzystaniem sztucznej inteligencji. Wcześniej alarmowano, że Gemini przedstawia nieścisłości historyczne w wygenerowanych obrazach.
Źródło: Linked In, Tom's Hardware
Komentarze
(8)piomiq Strasznie nędzny ten artykuł. Chyba benchmark.pl wchodzi w schyłek wieku, bo co raz więcej tu artykułów straszących tym i tamtym. A może to tylko chęć wzbudzenia sensacji. RedFox01 Ojojoj i co teraz będzie? Świat się kończy jaki znaliśmy... Przyszłość należy do AI, i czas już się z tym pogodzić... jamesd Ale przecież prawdopodobnie większość informacji karmiących ai jest prywatna i często autorska marchello Od zawsze wam mówię że wasze to jest to co zrobicie w toalecie, a to też nie do końca. A te wasze prawa autorskie mogą posłużyć do toalety. Kreacje ma 1 na mld.
Zaloguj się, aby komentowaćI jeszcze ten ordynardy clickbajt sugerujący jakby SI miała wolną wolę i sama z siebie była ordynarna i łamała prawo. A z tego co wiadomo, to SI robi to co jej człowiek nakarze i stara się to rozwinąć do perfekcji.