Bezpieczeństwo

Technologia rozpoznawania twarzy może mylić się nawet w 96% przypadków

z dnia
Marta  Andronik | Redaktor serwisu benchmark.pl
5 komentarzy Dyskutuj z nami

Oprogramowanie do rozpoznawania twarzy może być bardzo zawodne. A o konsekwencjach jego stosowania przekonała się policja w Detroit.

Policję w Detroit zalała fala krytyki, po tym jak aresztowano niewinnego człowieka, który został niepoprawnie wskazany przez oprogramowanie do rozpoznawania twarzy. Podczas przesłuchania okazało się, że zarejestrowany na nagraniu mężczyzna wygląda inaczej. W efekcie funkcjonariusze zwolnili zatrzymanego.

System rozpoznawania twarzy może się mylić

Policja przyznała się do błędu i wskazała na wady opracowanej przez firmę DataWorks technologii, która daje bardzo mało wiarygodne wyniki.

Szef policji w Detroit powiedział, że oprogramowanie do rozpoznawania twarzy identyfikuje błędnie w aż 96% przypadków. Ostatecznie konieczne jest przesłuchanie, przeprowadzenie poprawnego dochodzenia i opinia funkcjonariusza. Jednocześnie zapewnił, że korzystanie jedynie z takiej technologii byłoby sprzeczne z ich obecną polityką.

Jednak przy okazji pojawiły się wątpliwości i liczne pytania dotyczące działań policjantów: czy powinni aresztować kogoś tylko dlatego, że został wskazany przez system? Obecnie nawet osoby, które nie mają nic wspólnego z przestępstwem, mogą zostać aresztowane z winy wadliwego oprogramowania.

rozpoznawanie twarzy

Amerykańska organizacja zajmująca się ochroną praw obywateli (ACLU) nakłania policję do zaprzestania korzystania z technologii, która ma tak wysoki poziom niepoprawnych wskazań.

Taka ilość błędów może wynikać z faktu, że dokładność systemu rozpoznawania twarzy różni się w zależności od rasy badanej osoby. Czarnoskórzy są identyfikowani rzadziej niż biali, a to właśnie oni stanowili w tym przypadku zdecydowaną większość rozpoznanych przez program, bo aż 68 na 70 przypadków.

Wiele miast już zabroniło policji korzystania z oprogramowania, które ma problem z poprawną identyfikacją podejrzanych osób. Niebawem podobne ograniczenia mogą zostać wprowadzone w Detroit.

Źródło: Arstechnica

Warto zobaczyć również:

Komentarze

5
Zaloguj się, żeby skomentować
avatar
Dodaj
Komentowanie dostępne jest tylko dla zarejestrowanych użytkowników serwisu.
  • avatar
    Gorzej, gdy ta technologia będzie skuteczna w 99,99% i na podstawie tych 0,01%, też będą oskarżali niewinnych ludzi, bo będą uważać, że technologia jest już bezbłędna.
  • avatar
    Czapeczka, okulary i maseczka każde narzędzie inwigilacji może wprowadzić w błąd.
  • avatar
    W ten sposób pojawił się kolejny argument za tym, by chipować ludzi. W ten prosty sposób wyeliminuje się praktycznie wszelkie pomyłki.
    -2