AI w służbie policji — chatboty mogą zniekształcać raporty policyjne

Nowa technologia wykorzystująca chatboty AI do tworzenia raportów policyjnych budzi poważne kontrowersje wśród ekspertów i obrońców praw obywatelskich. Axon, firma znana z produkcji paralizatorów i kamer osobistych dla amerykańskiej policji, wprowadziła na rynek Draft One, narzędzie oparte na modelu GPT-4, które generuje raporty policyjne niemal natychmiast po zakończeniu nagrania. Policja we Frederick, Kolorado, jako pierwsza na świecie wdrożyła to rozwiązanie, a kolejne departamenty szybko podchwyciły tę innowację.

Draft One automatycznie przetwarza dźwięk z kamer, tworząc skrócone narracje zdarzeń. Axon zachwala technologię jako sposób na zwiększenie efektywności pracy policji, poprzez redukcję czasu poświęconego na pisanie raportów. Testy wykazały, że ten skrócił się on nawet o 82%.

Jednakże prawnicy i obrońcy praw obywatelskich zwracają uwagę na potencjalne zagrożenia związane z tą technologią. Raporty policyjne stanowią kluczowy element systemu sprawiedliwości – mają wpływ na postępowania sądowe, ugody i określanie odpowiedzialności funkcjonariuszy. Eksperci obawiają się, że AI może wprowadzać błędy, zniekształcać fakty lub wzmacniać uprzedzenia, co mogłoby prowadzić do niesprawiedliwych wyroków i, finalnie, do niewłaściwych decyzji sądu.

Firma Axon twierdzi, że ich AI ma mniejsze skłonności do „halucynacji” niż rozwiązania konkurencyjne

Chociaż Axon twierdzi, że Draft One jest mniej podatny na tzw. „halucynacje” niż inne chatboty, takie jak ChatGPT, krytycy podkreślają, że technologia ta jest wciąż mało zbadana i niesie za sobą wiele nieznanych ryzyk. Mimo że firma zaleca ograniczenie użycia narzędzia do mniej poważnych spraw i tylko zgrubnego spisywania raportów, niektóre departamenty, jak w Lafayette w Indianie, już stosują je w przypadkach o większym znaczeniu.

Ford stara się o patent na system wykrywający przekroczenie prędkości i raportujący to policji

Eksperci ostrzegają, że Draft One może wpłynąć na cały system prawny, zmieniając sposób, w jaki interpretowane są dowody i jak kształtuje się narracja w sprawach kryminalnych. Z tego powodu wzywają do większej przejrzystości w zakresie stosowania tej technologii oraz do szczegółowej analizy jej wpływu na sądy i prawa obywatelskie.

Źródło: Ars Technica