Technologia rozpoznawania twarzy może mylić się nawet w 96% przypadków

Policję w Detroit zalała fala krytyki, po tym jak aresztowano niewinnego człowieka, który został niepoprawnie wskazany przez oprogramowanie do rozpoznawania twarzy. Podczas przesłuchania okazało się, że zarejestrowany na nagraniu mężczyzna wygląda inaczej. W efekcie funkcjonariusze zwolnili zatrzymanego.

System rozpoznawania twarzy może się mylić

Policja przyznała się do błędu i wskazała na wady opracowanej przez firmę DataWorks technologii, która daje bardzo mało wiarygodne wyniki.

Szef policji w Detroit powiedział, że oprogramowanie do rozpoznawania twarzy identyfikuje błędnie w aż 96% przypadków. Ostatecznie konieczne jest przesłuchanie, przeprowadzenie poprawnego dochodzenia i opinia funkcjonariusza. Jednocześnie zapewnił, że korzystanie jedynie z takiej technologii byłoby sprzeczne z ich obecną polityką.

Jednak przy okazji pojawiły się wątpliwości i liczne pytania dotyczące działań policjantów: czy powinni aresztować kogoś tylko dlatego, że został wskazany przez system? Obecnie nawet osoby, które nie mają nic wspólnego z przestępstwem, mogą zostać aresztowane z winy wadliwego oprogramowania.

Amerykańska organizacja zajmująca się ochroną praw obywateli (ACLU) nakłania policję do zaprzestania korzystania z technologii, która ma tak wysoki poziom niepoprawnych wskazań.

Taka ilość błędów może wynikać z faktu, że dokładność systemu rozpoznawania twarzy różni się w zależności od rasy badanej osoby. Czarnoskórzy są identyfikowani rzadziej niż biali, a to właśnie oni stanowili w tym przypadku zdecydowaną większość rozpoznanych przez program, bo aż 68 na 70 przypadków.

Wiele miast już zabroniło policji korzystania z oprogramowania, które ma problem z poprawną identyfikacją podejrzanych osób. Niebawem podobne ograniczenia mogą zostać wprowadzone w Detroit.

Źródło: Arstechnica

Warto zobaczyć również:

• Rozpoznawanie twarzy przestało interesować IBM. Całkowicie przestało
• Automatyczne rozpoznawanie twarzy? Nie w San Francisco
• Unia Europejska rozważa tymczasowy zakaz stosowania technologii rozpoznawania twarzy w miejscach publicznych