Sztuczna inteligencja może określić rasę człowieka na podstawie zdjęcia rentgenowskiego

Nowe badanie przeprowadzone przez międzynarodowy zespół naukowców z Kanady, Stanów Zjednoczonych, Australii i Tajwanu donosi, że sztuczna inteligencja wykorzystywana do analizy zdjęć rentgenowskich i tomografii komputerowej potrafi przewidzieć rasę danej osoby z 90-procentową dokładnością. Naukowcy nie mają pojęcia, w jaki sposób algorytm to robi.

Kiedy moi studenci pokazali mi niektóre z wyników przedstawionych w tej pracy, pomyślałam, że to musi być błąd – powiedziała dziennikowi Boston Globe Marzyeh Ghassemi, asystentka profesora elektrotechniki i informatyki na MIT i współautorka pracy opublikowanej w czasopiśmie The Lancet Digital Health.

Szczerze mówiąc, myślałam, że moi studenci zwariowali.

Badanie rozpoczęło się po tym, jak naukowcy zauważyli, że sztuczna inteligencja do analizy zdjęć rentgenowskich klatki piersiowej z większym prawdopodobieństwem pomijała oznaki choroby u pacjentów rasy czarnej.

Zadaliśmy sobie pytanie, jak to możliwe, skoro komputery nie są w stanie określić rasy człowieka? powiedział Leo Anthony Celi, współautor i profesor nadzwyczajny w Harvard Medical School.

Naukowcy uczyli sztuczną inteligencję, pokazując jej dużą liczbę zdjęć różnych części ciała, oznaczonych według rasy, w tym klatki piersiowej, dłoni i kręgosłupa – bez oczywistych różnic, takich jak kolor skóry czy struktura włosów – a następnie zestawy nieznakowanych zdjęć. Algorytm identyfikował rasę na nieoznakowanych zdjęciach z ponad 90-procentową dokładnością i potrafił odróżnić pacjentów rasy czarnej od białej, nawet jeśli zdjęcia pochodziły od osób tego samego wzrostu, wieku i płci.

Odkrycie to może w pewien sposób pomóc personelowi medycznemu, ale rodzi też ryzyko, że systemy diagnostyczne oparte na sztucznej inteligencji mogą nieumyślnie generować wyniki rasowo nieobiektywne, np. automatycznie zalecać konkretną terapię dla pacjentów rasy czarnej, niezależnie od tego, czy jest ona odpowiednia dla danej osoby, czy nie. Co więcej, lekarz nie wiedziałby, że SI oparła swoją diagnozę na tej konkretnej przesłance.

Sztuczna inteligencja widzi melaninę?

Ghassemi uważa, że odpowiedź na tę zagadkę jest związana z melaniną – aparaty rentgenowskie i tomograficzne wykrywają wyższą zawartość melaniny w ciemniejszej skórze i w jakiś niezauważalny sposób umieszczają tę informację w obrazie cyfrowym. Prowadzone będą dalsze badania w tym zakresie, jendak nie wszyscy zgadzają się z tą hipotezą.

Alan Goodman, profesor antropologii biologicznej w Hampshire College i współautor książki Racism Not Race (Rasizm nie rasa), sugeruje, że to co widzi sztuczna inteligencja nie jest dowodem na istnienie wrodzonych różnic między rasami, lecz wychwytuje różnice wynikające z położenia geograficznego.

Osteoarcheolodzy i genetycy nie znaleźli dowodów na istnienie istotnych różnic rasowych w ludzkim genomie, ale stwierdzili duże różnice między ludźmi w zależności od tego, gdzie żyli ich przodkowie.

Analizując zawartość pierwiastków, takich jak tlen, stront i siarka w ludzkich kościach, badacze mogą dowiedzieć się, gdzie dana osoba urodziła się i wychowała. Znajdują dowody na występowanie chorób, takich jak zapalenie kości i stawów, urazy, infekcje, w tym trąd i kiła, co sugeruje im szczegóły dotyczące warunków życia i stylu życia danej osoby i tak samo może robić sztuczna inteligencja.

Źródło: National Post