Ciekawostki

AI jest bardzo stereotypowe. Te fotki to pokazują

przeczytasz w 2 min.

Narzędzia do generowania obrazów oparte na sztucznej inteligencji (AI) są coraz częściej wykorzystywane w różnych dziedzinach. Pojawiają się jednak obawy dotyczące uprzedzeń kulturowych i stereotypów, jakie mogą one nieświadomie propagować. Przykład? Meta AI.

Chyba nikt nie zaprzeczy, że ChatGPT i inne, podobne narzędzia oparte na sztucznej inteligencji szturmem weszły w nasze życie. W sieci zaroiło się od napisanych przy ich pomocy książek, wygenerowanych przez AI filmów, zdjęć czy grafik. Dziś wystarczy dostęp do Midjourney, Leonardo AI czy Adobe Firefly, żeby móc chwalić się nieprzeciętnej jakości obrazami. 

Oczywiście, obawy co do używania tego typu narzędzi wciąż się pojawiają. Całkiem niedawno sam Warren Buffet przestrzegał przed AI porównując nawet tę technologię do broni jądrowej. Teraz zaś do tego doszły jeszcze wątpliwości odnośnie przypadkowego sięgania przez AI do stereotypów, co może prowadzić do dyskryminacji i tworzenia negatywnego przekazu.

Sztuczna inteligencja pełna uprzedzeń?

Jak donosi portal TechCrunch, najnowsze narzędzie Meta AI, wprowadzone przez firmę Meta na światowych rynkach, wykazuje niepokojącą tendencję do nadmiernego dodawania turbanów do wizerunków Hindusów. Dziennikarze tegoż serwisu zbadali narzędzie w kontekście różnych kultur i wynik okazał się dość kontrowersyjny.

W serii testów przeprowadzonych przez nich, Meta AI zadziwiło generując niemal wyłącznie obrazy Hindusów w turbanach, i to nawet w scenariuszach, gdzie takie nakrycie głowy nie jest powszechnie noszone. Przy użyciu różnych promptów, takich jak "Hindus spacerujący po ulicy" czy "Hindus grający w szachy", AI systematycznie oferowało wizualizacje oparte na jednym, wąskim stereotypie. 

Meta AI i stereotypy
Fot. TechCrunch

Wykorzystywane narzędzie „rysowało” nie tylko Hindusów w turbanie, ale przedstawiało także nieaktualne i nierzadko klasowe stereotypy w innych kontekstach, na przykład pokazując hinduskich fotografów z przestarzałymi aparatami.

Reakcja firmy i społeczne konsekwencje

W odpowiedzi na zapytania TechCrunch, przedstawiciel Meta stwierdził, że firma pracuje nad doskonaleniem technologii generatywnej AI, choć nie podano szczegółów dotyczących planowanych zmian. I choć narzędzie Meta AI jest bezpłatne i łatwo dostępne w wielu krajach (na razie bez Polski), na wielu platformach takich jak WhatsApp, Instagram, Facebook i Messenger, problemy związane ze stereotypami mogą mieć szersze społeczne implikacje, potwierdzając i pogłębiając istniejące uprzedzenia.

W obliczu globalnej różnorodności kulturowej istnieje zatem pilna potrzeba, aby firmy takie jak Meta wykazywały większą wrażliwość i dokładność w reprezentacji różnych grup społecznych i kulturowych. Skuteczne rozwiązanie problemu uprzedzeń w narzędziach AI będzie wymagało nie tylko zaawansowanej technologii, ale również szerokiej współpracy oraz zaangażowania w etyczne i odpowiedzialne wykorzystanie sztucznej inteligencji.

Źródło: TechCrunch

Komentarze

13
Zaloguj się, aby skomentować
avatar
Komentowanie dostępne jest tylko dla zarejestrowanych użytkowników serwisu.
  • avatar
    KENJI512
    15
    Nie stereotypowe tylko oparte o dane statystyczne...

    Jeśli 80% napadów jest robionych przez murzynów w USA, to 80% generacji "zrób grafikę osoby napadającej na sklep w USA podczas zamieszek" to będzie murzyn...
    • avatar
      Dexterr
      9
      Bo to nie jest żadna sztuczna ineligencja tylko algorytmy oparte na uczeniu maszynowym. Z inteligencja to nie ma nic wspólnego.
      • avatar
        youkai20
        4
        Znowu ten sam płacz, że jak to Hindus w turbanie? A co, wolicie, żeby był nago? Ja też wyobraziłem sobie od razu mężczyznę w turbanie (czy nawet fakira). To nie stereotyp, a element ichniejszej kultury... czy się to komu podoba, czy nie. Zresztą DALLE 3 też generuje takie obrazy po wpisaniu frazy Indian man walking on the street (https://www.bing.com/images/create/indian-man-walking-on-the-street/1-663b8402323742ce9d0384b22d57f7e6?id=DpHT7sZRLievJbjKsZuVFQ%3d%3d&view=detailv2&idpp=genimg&thId=OIG3.Uc.NHzktcVE9ia8EwdJI&FORM=GCRIDP&ajaxhist=0&ajaxserp=0) (https://www.bing.com/images/create/indian-man-walking-on-the-street/1-663b8402323742ce9d0384b22d57f7e6?id=l25rMYB85OUMbR2TnoNQmg%3D%3D&view=detailv2&idpp=genimg&thid=OIG3.Uc.NHzktcVE9ia8EwdJI&form=GCRIDP&ajaxhist=0&ajaxserp=0). Nie widzę w tym nic złego. To z tymi, którym to przeszkadza, jest coś nie tak.
        • avatar
          Karaimi
          3
          Ej, to może niech rysuje niewidzialne obrazy - każdy zobaczy co chce.
          • avatar
            Kenjiro
            2
            W skrócie, dostawcy baz do ML mają większość zdjęć Hindusów w postaci Sikhów w turbanach.

            To żadne AI, a tylko algorytmy przekształcające zapytanie tekstowe (prompt) w grafikę z użyciem miliardów parametrów za plecami, zaś ML przygotowuje owe parametry na podstawie dostarczonych zbiorów obrazów.
            Algorytm nie wie, że to co przedstawia jest człowiekiem, nie mówiąc, że jest Hindusem, tylko z parametrów wynika, że najmniejszy błąd będzie gdy z promptu Hindus powstanie obraz o takich, a nie innych atrybutach.
            • avatar
              kkastr
              2
              Jeśli słowo Hindus nie może się z niczym kojarzyć, to co ono w ogóle oznacza?
              • avatar
                gicmo
                0
                Zakazali AI pokazywania Hindusa w call center, no i mają
                • avatar
                  Janisz
                  0
                  To chyba dobrze, że wynikiem działania algorytmu uśredniającego jest uśredniony wynik, bo TO MA TAK DZIAŁAĆ! Żeby zrozumieć, że nie istnieje coś takiego jak sztuczna inteligencja wystarczy być średnio inteligentnym...
                  • avatar
                    WacławZiema
                    -3
                    Siemano ziomale nazywam się Wacław Ziemia i jestem międzynarodowej sławy aktywista klimatycznym, ekologięm, wielkim miłośnikiem przyrody.
                    Razem z koja żona Gretą Ziemia-Thunberg i naszym synem Wacławem Ziemia Juniorem walczymy o zielona przyszłość naszej planety.
                    Musimy się pozbyć paliw kopalnych aby wyeliminować co2 i żeby nasze dzieci oddychały czystym powietrzem, dlatego chcemy aby tylko OZE jak wiatraki i fotowoltaiki wytwarzało prąd a nie elektrownie na węgiel czy atomowe! Robimy tonwszystko dla naszego dobra!!!
                    Ale słuchajcie zimoalme dalej. Moge walczyć o ekologię bo zarobiłem w tamtym roku trylion$ a wszystko dzięki zielonej aplikacji Crypto Com która nie zostawia śladu węglowego i przyczynia się do ochrony klimata!!!! Ty tez ziomal możesz zarobic take hajsik!!!
                    Podspdem daje ci linkacza wktorego klikniesz i zarejestrujesz sis w Crypto com zrobisz KYC i podepniesz swoją kartę kredytowa a potem zamówisz czerwona kartę Ruby a otrzymasz az 25$ w zielonej kryptowalucie Cro!
                    Kupuj, wymieniaj, sprzedawaj kryptowalut lu w aplikacji Crypto Com aby się się multimilionerem jak ja a przynokazjibdbac o środowisko naturalne!!!
                    Klikaj szypko bo nie ma czasu!!! Bo czas to pieniądz!!! Nie ma czasu bo ziemia płonie i musimy ja ratować!!! Klikaj bądź zielonym ziomalem!!! KLIKAJ TERAZ!!!!!

                    https://crypto.com/app/jjey2xxs9c

                    Witaj!

                    Niedługo wyłaczymy stare logowanie.
                    Logowanie będzie możliwe tylko przez 1Login.

                    Połącz konto już teraz.

                    Zaloguj przez 1Login