Sztuczna inteligencja woli białych. AI zaproponowało jej zmianę rasy

Sztuczna inteligencja nie zawsze spełnia oczekiwania użytkowników, ale z przerabianiem zdjęć radzi sobie całkiem przyzwoicie. Selfie jak z kreskówki i zdjęcie na różowym słoniu może mieć każdy internauta. Problem pojawia się, kiedy sztuczna inteligencja przestaje służyć rozrywce, a jedna z absolwentek MIT przekonała się o tym na własnej skórze. 

Wizerunek profesjonalisty według AI 

Rona Wang jest 24 -letnią absolwentką MIT (Massachusetts Institute of Technology), która postanowiła uzupełnić swój profil na platformie LinkedIn nowym zdjęciem profilowym. W tym celu swoje selfie w bluzie uczelni poddała obróbce w programie Playground AI. 

Narzędzie to otrzymało polecenie retuszu do hasła “profesjonalne zdjęcie profilowe LinkedIn”. W efekcie sztuczna inteligencja zmieniła Azjatkę, którą z pochodzenia jest Wang, w niebieskooką blondynkę rasy białej. 

Przedstawiciele dostawcy narzędzia Playground AI zareagowali na to zdarzenie podkreślają, że nie są zadowoleni z działania swojego oprogramowania. Zwracają uwagę, że narzędzie dostało zbyt ogólne polecenie, żeby zadziałać zgodnie z intencją użytkowniczki.  

Rasistowski tendencje AI 

W aferze tej brakuje jednak istotnej informacji. Przerabianie zdjęć lub tworzenie grafiki przez sztuczną inteligencję jest obecnie obciążone poważnym błędem. Modele AI, które są współcześnie stosowane w narzędziach graficznych były szkolone na stronniczych modelach danych.  Co więcej, korekta tak podstawowych błędów nie jest możliwa w drodze kolejnego treningu.  

Przygoda Rony Wang ze sztuczną inteligencją budzą też obawy o błędy do jakich może dochodzić podczas przetwarzania jej wizerunku. Skoro model AI uznał, że profesjonalizm wymaga jaśniejszej skóry i błękitnych oczu, będzie też stronniczy oceniając zdjęcie. Wszędzie, gdzie proces rekrutacyjny jest zautomatyzowany z wykorzystaniem AI, Wang będzie przegrywać z kandydatem rasy białej o porównywalnych kompetencjach. 

Źródło: Next Shark