Google Photos перестал показывать фотографии по запросу «горилла» после расистской ошибки 2015 года

Два года назад разработчикам пришлось извиняться перед темнокожими пользователями за то, что их причислили к гориллам.

Облачный сервис Google Photos не показывает результаты по запросам «горилла», «шимпанзе» и «обезьяна» после расистского скандала 2015 года. Издание The Wired провело эксперимент и пропустило через сервис 40 тысяч изображений животных.

Google Photos использует технологию машинного обучения, чтобы сортировать фотографии более 500 миллионов пользователей. Снимки получают условные обозначения после загрузки и находятся через запросы в поиске.

Журналисты The Wired загрузили 40 тысяч фотографий животных: сервис правильно определил панд, гиббонов, орангутангов, но не справился с обезьянами, гориллами и шимпанзе. При этом авторы отдельно опубликовали несколько снимков горилл и шимпанзе, на которых Google Photos увидел только джунгли или зоопарк.

Также авторы загрузили несколько фотографий людей, которые чаще всего используют в программах по распознаванию лиц. Людей с тёмной кожей показали только запросы «афро» и «африканский», но «афроамериканцы» выдало антилоп, а «темнокожий человек» — просто чёрно-белые снимки.

Представитель Google объяснил проблемы с запросом скандалом 2015 года, когда сервис определил селфи двух афроамериканцев в категорию «гориллы». После обнаружения проблемы инженеры компании извинились перед пользователями и сказали, что всё исправили.

В Google отметили, что с 2015 года слова «горилла», «шимпанзе» и «обезьяна» попали под запрет из-за того, что система определения «находится на ранней стадии разработки».

#технологии #животные #google