Джой Буоламвини из Массачусетского технологического университета сделала анализ трех систем распознавания лиц, созданные Microsoft, IBM и китайской компанией Megvii. В 99% случаев, системы безошибочно идентифицировали пол белых мужчин.

Но этот процент изменился, когда речь шла о людях с более темной кожей. В частности, во время идентификации женщин с более темной кожей одна программа допускала 20,8% ошибок при определении лиц с самой светлой кожей и 34,7% – с самой темной кожей.

Все остальные полученные данные будут представлены в конце этого месяца на Конференции по вопросам справедливости, подотчетности и прозрачности в Нью-Йорке.

На сегодняшний день, система распознавания лиц широко используется в разных областях, в том числе полицией для выявления подозреваемых в толпе и автоматической локализации их лиц на снимке.

Опубликованные результаты показывают, что неточности в определении лиц могут привести  к серьезным последствиям, такие как проявления расовых предубеждений в полицейских рейдах и обысках.

Недоверие к системам искусственного интеллекта, как правило, исходят из предубеждений к данным, которых они представляют. В 2017 году ряд технологических гигантов объявили борьбу с расовым  неравенством.

По мнению экспертов, дискриминация в IT, будь то расизм или сексизм, влияет негативно на дальнейшее развитие технологий и способствуют укоренению неравенства во всем мире.

IBM и Microsoft уже откликнулись на недавнем сообщении команды из Массачусетса и обещали изменить алгоритмы своих программ для повышения точности в системах определении лиц.