Błąd algorytmu rozpoznawania twarzy powodem aresztu dla niewinnego Afroamerykanina

Randall Reid, Afroamerykanin, który trafił na prawie tydzień do aresztu na podstawie wskazań algorytmu rozpoznawania twarzy twierdzi, że nigdy nie był nawet w Luizjanie, a tym bardziej nie ukradł tam, wartych 10 000 dolarów, torebek Chanel i Louis Vuitton. To nie powstrzymało policji przed aresztowaniem 28-letniego mieszkańca Georgii za kradzież, rzekomo popełnioną przez niego na przedmieściach Nowego Orleanu.

Według New Orleans Advocate, algorytm rozpoznawania twarzy zidentyfikował Reida jako podejrzanego o kradzież luksusowych torebek i to wszystko, czego potrzebowali policjanci, aby umieścić go w areszcie. Według prawnika Reida, Tommy’ego Calogero, jest on o dobre 18 kg lżejszy od przestępcy zarejestrowanego na monitoringu. Stróże prawa wypuścili niewinnego, ale nie komentują sprawy.

Myślę, że zdali sobie sprawę z tego, że poszli na łatwiznę dokonując aresztowania tylko na podstawie twarzy – powiedział Calogero w rozmowie z Advocate.t

Algorytmy rozpoznawania twarzy są niedokładne

Algorytmy rozpoznawania twarzy, choć przydatne, są dalekie od doskonałości. Liczne badania pokazują, że technologia ta jest szczególnie niedokładna przy identyfikacji osób o ciemniejszych odcieniach skóry i kobiet. Niektórzy funkcjonariusze organów ścigania regularnie przyznają się do tego faktu, mówiąc, że rozpoznawanie twarzy nadaje się jedynie do generowania tropów i nigdy nie powinno być wykorzystywane jako jedyna podstawa do wydania nakazu aresztowania. Jest jednak bardzo mało przepisów regulujących użycie tej technologii, a policjanci często ignorują inne poszlaki i uznają wskazania algorytmu jako niezbity dowód.

Według Clare Garvie, doradcy ds. zasobów szkoleniowych w NAoCDL, Reid to najnowszy, ale na pewno nie ostatni, przykład niewinnego Afroamerykanina, który wylądował w areszcie w wyniku błędów algorytmu rozpoznawania twarzy. Technologia ta doprowadziła do co najmniej trzech niesłusznych aresztowań, a wykorzystywanie jej jako jedynego uzasadnienia do umieszczania podejrzanych za kratkami jest niepokojącym i rosnącym trendem.

Rozpoznawanie twarzy oferuje obietnicę dokładnej i szybkiej identyfikacji w okolicznościach, w których organy ścigania mogą nie mieć innych sposobów identyfikacji podejrzanych, ale to założenie nigdy nie zostało przetestowane ani potwierdzone. Kiedy funkcjonariusze organów ścigania używają tej technologii jako jedynej podstawy do aresztowań, polegają na niesprawdzonych metodach – mówi Garvie.

Świat jest nasycony technologią rozpoznawania twarzy i innymi czujnikami biometrycznymi. Nie wiemy jednak, jak te narzędzia są wykorzystywane ani w jakich okolicznościach. W zeszłym roku 13 z 14 amerykańskich federalnych agencji rządowych powiedziało w Kongresie, że nie mają pojęcia, jak często używają technologii rozpoznawania twarzy, ani nawet, którzy z ich pracowników mają do niej dostęp.

Nowy Orlean – który graniczy z Metairie, LA, gdzie Reid został oskarżony o rzekomą kradzież – ma zasady dotyczące tego, jak policja może używać algorytmów rozpoznawania twarzy. Zgodnie z prawem, wszystkie możliwe dopasowania muszą przejść przez wzajemną weryfikację innych śledczych zajmujących się sprawą, a polityka policji mówi, że technologia ta powinna być używana tylko do generowania tropów. Jednak w Metairie, reszcie Luizjany i większości kraju funkcjonariusze organów ścigania mogą używać rozpoznawania twarzy bez ograniczeń. W większości przypadków prokuratorzy nie muszą nawet ujawniać, że algorytmy rozpoznawania twarzy były używane w śledztwie.

To narusza konstytucyjne prawa oskarżonych, twierdzi Garvie. Tak zwana zasada Brady’ego wymaga, aby prokuratorzy ujawnili dowody, które mogłyby utrzymać w mocy sprawę oskarżonego.

Ponieważ rozpoznawanie twarzy jest tak niedokładne, powinno to mieć zastosowanie zawsze, gdy ta technologia jest używana. Ale jak dotąd, system sądowy nie przyjął tej logiki – mówi Garvie.

Źródło: NOLA