AI jest bardzo stereotypowe. Te fotki to pokazują

Chyba nikt nie zaprzeczy, że ChatGPT i inne, podobne narzędzia oparte na sztucznej inteligencji szturmem weszły w nasze życie. W sieci zaroiło się od napisanych przy ich pomocy książek, wygenerowanych przez AI filmów, zdjęć czy grafik. Dziś wystarczy dostęp do Midjourney, Leonardo AI czy Adobe Firefly, żeby móc chwalić się nieprzeciętnej jakości obrazami. 

Oczywiście, obawy co do używania tego typu narzędzi wciąż się pojawiają. Całkiem niedawno sam Warren Buffet przestrzegał przed AI porównując nawet tę technologię do broni jądrowej. Teraz zaś do tego doszły jeszcze wątpliwości odnośnie przypadkowego sięgania przez AI do stereotypów, co może prowadzić do dyskryminacji i tworzenia negatywnego przekazu.

Obejrzyj w

Sztuczna inteligencja pełna uprzedzeń?

Jak donosi portal TechCrunch, najnowsze narzędzie Meta AI, wprowadzone przez firmę Meta na światowych rynkach, wykazuje niepokojącą tendencję do nadmiernego dodawania turbanów do wizerunków Hindusów. Dziennikarze tegoż serwisu zbadali narzędzie w kontekście różnych kultur i wynik okazał się dość kontrowersyjny.

W serii testów przeprowadzonych przez nich, Meta AI zadziwiło generując niemal wyłącznie obrazy Hindusów w turbanach, i to nawet w scenariuszach, gdzie takie nakrycie głowy nie jest powszechnie noszone. Przy użyciu różnych promptów, takich jak "Hindus spacerujący po ulicy" czy "Hindus grający w szachy", AI systematycznie oferowało wizualizacje oparte na jednym, wąskim stereotypie. 

Fot. TechCrunch

Wykorzystywane narzędzie „rysowało” nie tylko Hindusów w turbanie, ale przedstawiało także nieaktualne i nierzadko klasowe stereotypy w innych kontekstach, na przykład pokazując hinduskich fotografów z przestarzałymi aparatami.

Reakcja firmy i społeczne konsekwencje

W odpowiedzi na zapytania TechCrunch, przedstawiciel Meta stwierdził, że firma pracuje nad doskonaleniem technologii generatywnej AI, choć nie podano szczegółów dotyczących planowanych zmian. I choć narzędzie Meta AI jest bezpłatne i łatwo dostępne w wielu krajach (na razie bez Polski), na wielu platformach takich jak WhatsApp, Instagram, Facebook i Messenger, problemy związane ze stereotypami mogą mieć szersze społeczne implikacje, potwierdzając i pogłębiając istniejące uprzedzenia.

W obliczu globalnej różnorodności kulturowej istnieje zatem pilna potrzeba, aby firmy takie jak Meta wykazywały większą wrażliwość i dokładność w reprezentacji różnych grup społecznych i kulturowych. Skuteczne rozwiązanie problemu uprzedzeń w narzędziach AI będzie wymagało nie tylko zaawansowanej technologii, ale również szerokiej współpracy oraz zaangażowania w etyczne i odpowiedzialne wykorzystanie sztucznej inteligencji.

Źródło: TechCrunch