Sztuczna inteligencja jest stronnicza w postrzeganiu wizerunków mężczyzn i kobiet

Na portalu Wired poruszono ciekawy temat dotyczący tego, jak stronnicza bywa sztuczna inteligencja w interpretacji wizerunków mężczyzn i kobiet. Wyniki dają do myślenia.

Sztuczna inteligencja oceniła zdjęcia polityków

Usługa rozpoznawania obrazów w chmurze stworzona przez Google została poddana testowi przez naukowców. Wysłano do niej oficjalne zdjęcia polityków i spisali wyniki zwracane przez system, który wspomaga sztuczna inteligencja.

Wyniki były zaskakujące. Okazało się, że przy zdjęciach kobiet znalazło się trzykrotnie więcej adnotacji dotyczących wyglądu, niż miało to miejsce w przypadku mężczyzn.

Mężczyźni oceniani byli często jako „urzędnik” i „biznesmen”, a kobietom przypisywano określenia „uśmiech” i „podbródek”.

„Powoduje to, że kobiety otrzymują stereotyp niższego statusu. Kobiety mają ładnie wyglądać, a mężczyźni są liderami biznesu.” – mówił Carsten Schwemmer, badacz z tytułem doktora w GESIS Leibniz Institute for the Social Sciences w Kolonii w Niemczech.

Przy badaniach, których wyniki opublikowano kilka dni temu, Carsten Schwimmer współpracował z naukowcami z New York University, American University, University College Dublin, University of Michigan i organizacją non-profit California YIMBY.

Systemy Google, Amazon i Microsoft

Okazuje się, że naukowcy nie poprzestali na jednym systemie rozpoznawania twarzy i uczenia maszynowego. Zdjęcia wysyłali do systemów wykorzystujących sztuczną inteligencję firm Google, Amazon i Microsoft. Potem zajmowano się sprawdzaniem, jakie opisy pojawiły się przy zdjęciach.

• 

• 

System Google postrzegał mężczyzn, takich jak senator Steve Daines, jako biznesmenów. Kobiety takie jak Lucille Roybal-Allard jednakże opisywane były hasłami dotyczącymi wyglądu.

Systemy trafnie określały to, co widać na fotografiach. Jednakże w przypadku mężczyzn niezbyt często można było znaleźć określenia dotyczące wyglądu. W przypadku kobiet pojawiały się te dotyczące ewentualnie wykonywanych zawodów lub kompetencji.

System Google tylko w jednym przypadku określił, że mężczyzna się uśmiecha, mimo iż na każdym zdjęciu panowie mieli uśmiech na twarzy. Natomiast przy podobnej liczbie zdjęć kobiet oznaczono uśmiech w aż siedmiu przypadkach. Mężczyźni częściej określani byli jako biznesmeni lub urzędnicy. Kobiety częściej opisywane były hasłami typu skóra, szyja, fryzura, ale hasło urzędnik wobec nich padło tylko w kilku przypadkach.

Systemy firm Amazon i Maicrosoft określały dość często kobiety jako dziewczynki lub dzieci. Jeśli chodzi o mężczyzn, to żaden nie został określony jako osoba nieletnia.

Sztuczna inteligencja a zaprogramowane algorytmy

Przeprowadzone badanie pokazuje dobitnie, że sztuczna inteligencja inaczej postrzega mężczyzn, a inaczej kobiety. Można wysnuć tezę, że systemy stosowane przez różne firmy działają podobnie i są tendencyjnie nastawione wobec przedstawicieli płci męskiej i żeńskiej.

Google twierdzi, że ciągle pracuje nad ulepszeniem algorytmów w swoich systemach rozpoznawania twarzy i osób. Chce wyeliminować stronniczość, którą wykazuje sztuczna inteligencja.

Wielu ekspertów uważa, że systemy bazują na uczeniu maszynowym, są tak skuteczne, jak dane dostarczane im do nauki. Wystarczy, że baza zdjęć zawierała dość stronnicze wizerunki mężczyzn i kobiet. Wtedy AI nauczyła się przypisywać zdjęciom cechy niezbyt porównywalne dla obydwu płci.

Niektórzy twierdzą także, że algorytmy mogą być tworzone przez mężczyzn. Ci inaczej postrzegają wizerunki i cechy odpowiednio dla męskiej i żeńskiej płci.

Jeśli systemy zostaną odpowiednio nauczone rozpoznawania kobiet i mężczyzn w podobnych środowiskach, to jest szansa na dokładniejsze i bardziej obiektywne określanie cech zarówno kobiet, jak i mężczyzn.

Jeśli chodzi o sztuczną inteligencję, to naukowcy, którzy zajmują się używaniem jej do rożnych celów muszą jeszcze sporo popracować. Przykładem złego zastosowania są cyberprzestępcy wykorzystujący AI do łamania zabezpieczeń.

Nie mniej mamy przykłady, w których AI sprawdza się znakomicie, jak choćby w przypadku wspierania osób z niepełnosprawnościami.

Źródło (w tym grafiki): Wired