Alibaba oferuje rozpoznawanie Ujgurów jako usługę

Chiński „Amazon”, czyli Alibaba, oferuje użytkownikom swojej chmury rozpoznawanie Ujgurów jako usługę. Dzięki temu, każdy klient może zażyczyć sobie wysłania ostrzeżenia, jeśli oprogramowanie wykryje osobę należącą do tej mniejszości.

Od wielu lat wiadomo, że rząd Chińskiej Republiki Ludowej represjonuje mniejszości muzułmańskie w swoim kraju. ONZ oraz organizacje pozarządowe od dawna monitorują sytuację i donoszą przede wszystkim o szykanach w stosunku do Ujgurów. Dziś wiemy, że Chińska Partia Ludowa stworzyła sieć obozów reedukacyjnych, w których zamkniętych jest ponad milion osób. Celem jest eliminacja tożsamości etnicznej tej mniejszości i zemsta za akcje terrorystyczne i dawne powstania.

Śledztwo, prowadzone przez dziennikarzy New York Times i pracowników firmy IPVM, prowadzi do zupełnie nowych odkryć w tej bulwersującej sprawie. Zanim jednak przejdziemy do Alibaby, warto wspomnieć, o dochodzeniu dziennikarzy Washington Post. Tydzień temu ujawnili oni, że chińscy giganci technologiczni Huawei i Megvii stworzyli i testowali oprogramowanie SI, które potrafi alarmować policję, gdy tylko rozpozna Ujgura na nagraniu z monitoringu.

Tajne dokumenty

Po wycieku tajnego dokumentu dotyczącego tej sprawy i ujawnieniu go opinii publicznej francuska gwiazda piłki nożnej Antoine Griezmann zerwał kontrakt reklamowy z Huawei. Na swoim Instagramie napisał: „Po podejrzeniu, że firma Huawei przyczyniła się do rozwoju  „Uyghur alarm” poprzez wykorzystanie oprogramowania do rozpoznawania twarzy, natychmiast kończę współpracę z firmą”. Kilka dni później z pracy zrezygnował Tommy Zwicky, wiceprezes ds. komunikacji Huawei Denmark. Po pytaniu zadanym przez dziennikarza na Twitterze, czy potrafi wyjaśnić doniesienia na temat rozwijanego przez firmę oprogramowania do rozpoznawania Ujgurów, Zwicky krótko odpowiedział: „Nie potrafi i dlatego rezygnuje”. Po czym po chwili skasował wpis.

Huawei w odpowiedzi na pytanie o technologię do rozpoznawania Ujgurów stwierdził, że był to tylko test. Oprogramowanie nie miało też żadnego zastosowania poza środowiskiem firmy.

Kilka dni po ujawnieniu dokumentów z europejskiej strony Huawei, wyniki innego śledztwa przedstawili dziennikarze New York Times i pracownicy IPVM. Tym razem chodzi o Alibabę i rozpoznawanie Ujgurów jako usługę w API chmury chińskiego giganta. Podobnie do AWS Amazona, Alibaba posiada duży oddział o nazwie Alibaba Cloud, który aktualnie obsługuje około 3 milionów aktywnych i płacących za usługi użytkowników na całym świecie. W ostatnim roku fiskalnym firma odnotowała sprzedaż o wartości 5,6 miliarda dolarów.

Rozpoznawanie Ujgurów jako usługa

Przewodnik Alibaba Cloud API wśród atrybutów rozpoznawania twarzy wymienia frazę „czy to Ujgur”. W innym miejscu wyjaśnia, że wykrywanie mniejszości nie odnosi się ogólnie do mniejszości, ale właśnie do Ujgurów. Według informacji zapisanych w instrukcji jest to element o nazwie „Cloud Shield” odpowiedzialny za moderację treści. Alibaba Cloud wyjaśnia, że „jest pionierem w dziedzinie bezpieczeństwa treści. Wykrywa oraz rozpoznaje tekst, zdjęcia, filmy i głosy zawierające pornografię, politykę, terroryzm, reklamy i spam. Zapewnia też użytkownikom weryfikację, oznaczanie, niestandardową konfigurację i inne możliwości”. Idealnie wpisuje się więc w działania chińskiego rządu, który drastycznie cenzuruje treści dostępne w internecie.

Sztuczna inteligencja Alibaba Cloud może automatycznie rozpoznać twarze Ujgurów. Film na którym się pojawią, potrafi oznaczyć do sprawdzenia lub usunięcia, zanim obejrzy go znacząca liczba ludzi. Technologia działa w przypadku każdego filmu lub zdjęcia zawierającego twarze mniejszości ujgurskiej. Każdy taki element zostałby oznaczony, gdyby klient Alibaba Cloud włączył tę funkcję. API oferujące rozpoznawanie Ujgurów nie jest dostępne w chmurze oferowanej zagranicznym klientom. Wygląda więc na to, że jest to funkcja oferowana wyłącznie w Chinach.

Gdy dziennikarze New York Times zwrócili się do Alibaby z prośbą o komentarz, przewodnik po API chińskiej chmury został usunięty. Firma zaś stwierdziła, że SI oferujące rozpoznawanie Ujgurów było używane tylko w środowisku testowym. Nie skomentowała też faktu samej obecności takiej funkcji w swojej chmurze.

Nie tylko Alibaba

W toku śledztwa okazało się też, że Alibaba nie jest jedyną chińską firmą oferującą rozpoznawanie przynależności etnicznej za pomocą narzędzi uruchomionych w chmurze. Kingsoft Cloud oferuje system potrafiący rozpoznać przynależność rasową na postawie zdjęcia. Według dokumentacji umieszczonej na stronie firmy, narzędzie potrafi rozróżnić, czy twarz widoczna na fotografii należy do Ujgura czy też nie. Po zapytaniu wysłanym do Kingsoft Cloud przez dziennikarzy firma usunęła dokumentację ze swoich stron.

To, że chińskie firmy mają związek z rządem tego kraju i nie można im ufać, jeśli chodzi o bezpieczeństwo danych, od kilku już lat podnosi amerykańska administracja. Jednak wspieranie represji wobec muzułmańskiej mniejszości etnicznej Ujgurów to zupełnie inny kaliber. Społeczność międzynarodowa może nie być tak wyrozumiała w tej kwestii jak np. w przypadku 5G. Jak widać na przykładzie francuskiego piłkarza, sprawa może się odbić szerokim echem wśród użytkowników sprzętu i usług dostarczanych przez chińskie firmy.

Poniżej zamieszczamy oświadczenie Huawei Polska, które dziś otrzymaliśmy.

Huawei sprzeciwia się wszelkiego rodzaju dyskryminacji, w tym wykorzystywaniu technologii do dyskryminacji na tle etnicznym. Dostarczamy rozwiązania informacyjno-komunikacyjne (ICT) do użytku ogólnego, bazujące na uznanych standardach branżowych. Nie opracowujemy ani nie sprzedajemy systemów identyfikujących ludzi na podstawie przynależności etnicznej i nie zgadzamy się na wykorzystywanie naszych technologii do dyskryminowania lub gnębienia członków jakiejkolwiek społeczności.

Technologie, o których mowa w artykule, są nowe i ciągle ewoluują. Dlatego tworzenie systemu etyki oraz metod zarządzania tą kształtującą się dopiero dziedziną musi być procesem świadomym, ciągłym i opartym na współpracy. Bardzo poważnie traktujemy zarzuty zawarte w artykule The Washington Post i badamy poruszone w nim kwestie. W międzyczasie będziemy pracować nad dalszą optymalizacją naszych wewnętrznych systemów zarządzania, by mieć pewność, że nadążają za tempem rozwoju technologicznego.

Wierzymy, że technologia powinna służyć dobru. Huawei jako członek paktu United Nations Global Compact oraz koalicji Responsible Business Alliance zawsze opowiada się za uczciwym i niedyskryminującym stosowaniem technologii. Szanujemy prawo każdego kraju i regionu, w którym działamy, i dbamy o naszych klientów, partnerów oraz wszystkie osoby, które korzystają z naszej technologii lub znajdują się pod jej wpływem. Nie wspieraliśmy i nigdy nie będziemy wspierać wykorzystywania technologii do dyskryminowania jakichkolwiek mniejszości.

Źródło: New York Times