{"id":1015,"title":"\u0410\u043b\u044c\u0431\u043e\u043c \u043e \u043b\u044e\u0431\u0432\u0438 \u0432\u043e \u0432\u0440\u0435\u043c\u044f \u0432\u043e\u0439\u043d\u044b \u0431\u0435\u0437 \u0435\u0434\u0438\u043d\u043e\u0433\u043e \u0441\u043b\u043e\u0432\u0430 ","url":"\/redirect?component=advertising&id=1015&url=https:\/\/tjournal.ru\/umg\/472440-poslushat-novoe-oulavyur-arnalds-i-strunnyy-kvartet&placeBit=1&hash=2f79f2d1dce5a3269d2e27f43f5810c5215f9449ef7975dca45f4a27e2574b04","isPaidAndBannersEnabled":false}

Нейросеть Твиттера обвинили в «расовой предвзятости» — она выбирает на превью фото лица белых людей, а не темнокожих Статьи редакции

В соцсети появились десятки примеров, где темнокожих «обрезали» на предпросмотре. Twitter проверил работу алгоритма и заявил, что не нашёл признаков расовой или гендерной предвзятости.

В 2018 году Twitter стал использовать нейросети для создания превью фотографий и картинок. Часто изображение в ленте обрезается, поэтому алгоритм соцсети пытается понять, какая область представляет для пользователей «наибольший интерес», а затем выбирает её для предпросмотра. Система работает и с фото, и с мемами, и с артами, и с текстовыми скриншотами.

20 сентября бывший разработчик компании Square (ей, как и твиттером, управляет Джек Дорси) Тони Арчиери провёл эксперимент: он сделал длинную картинку с первым темнокожим президентом в истории США Баракой Обамой и республиканским сенатором Митчем Макконеллом. В обоих примерах, независимо от расположения на картинке, нейросеть Твиттера выбирала на превью последнего.

Арчиери предположил, что алгоритмы выбрали белого политика из-за ярко-красного галстука, и «отдал» его Обаме. Но система вновь поставила на предпросмотр картинки Макконелла. Обама попал на превью только при инверсии цветов.

Эксперимент разошёлся по твиттеру, после чего другие пользователи тоже принялись испытывать работу нейросети. И выяснили, что в большинстве система выбирает на превью белого человека, несмотря на фон и другие факторы. Подобное происходит не только с фото, но и с артами, персонажами «Симпсонов» и мемами.

Пользователи отметили, что дело может быть в контрасте изображений или проблеме с распознаванием лиц. В любом случае, первопричина, по мнению комментаторов, в базе данных: система может выбирать на превью преимущественно белых людей, потому что она обучена на фото преимущественно белых людей.

Эту проблему неоднократно поднимали в сфере машинного обучения: нейросети хуже распознают текст и речь афроамериканцев и чаще допускают ошибки при попытке их идентификации с помощью распознавания лиц.

В реплаи к одному из твитов пришёл директор по цифровым технологиям компании Дэнтли Дэвис. Он рассказал, что алгоритм не только распознаёт лица на картинках, но также учитывает более яркий и светлый фон, на котором объект выглядит контрастнее. Дэвис пообещал проверить работу нейросети, но показал свой пример: он взял темнокожего и белого человека, а затем прифотошопил их к одинаковому костюму на одинаковом фоне. В итоге на превью твита появился темнокожий герой.

Сотрудница Intertheory Ким Шерелл тоже провела эксперимент: она взяла более контрастное фото улыбающегося Обамы и сравнила со снимком Макконелла. На превью оказался бывший президент США.

Представитель Twitter Лиз Келли в итоге заявила, что команда соцсети проверила работу нейросети и не обнаружила в системе расовой или гендерной предвзятости. Но, по словам Келли, компания продолжит изучение алгоритма, а также откроет исходный код, чтобы его смогли изучить сторонние специалисты.

Русскоязычные пользователи тем временем поставили свои эксперименты: в их примерах нейросеть выбирала на превью Светлану Тихановскую, а не Александра Лукашенко, но в тоже время предпочитала Барака Обаму, а не Алексея Навального.

0
33 комментария
Популярные
По порядку
Написать комментарий...
Разный историк

Комментарий удален по просьбе пользователя

Ответить
33
Развернуть ветку
Vladislav Nikolaevich

Каждый раз при постинге картинки вручную выбирать превью? Ты как из палаты вышел. 

Ответить
23
Развернуть ветку
Сергей Васильев

каждый раз

представьте как выглядит его твиттер...

Ответить
3
Развернуть ветку
Duck Dick

Я представляю как выглядят люди, пользующиеся твиттером, уже достаточно

Ответить
9
Развернуть ветку
Разный историк

Комментарий удален по просьбе пользователя

Ответить
3
Развернуть ветку
Разный историк

Комментарий удален по просьбе пользователя

Ответить
3
Развернуть ветку
Разный историк

мудюкоться 

Ответить
1
Развернуть ветку
Разный историк

Комментарий удален по просьбе пользователя

Ответить
0
Развернуть ветку
Max Yankov

Твой вариант гораздо сложнее, потому что он предполагает хранить больше видимого пользователям и изменяемого ими стейта. Именно такой стейт влияет на сложность поддержки системы в первую очередь; с системной точки зрения, сделать ML алгоритм, который будет делать это за пользователей, но результат работы которого нельзя будет ни отменить, ни отредактировать — гораздо более простой вариант.

Ответить
1
Развернуть ветку
#realfiddy

Как же ахуенно живут ребята в твиттере. Уже до нейросети доебались.

Ответить
16
Развернуть ветку
Берг

Ты совсем ебобо твиты картинками вставлять?

Ответить
5
Развернуть ветку
Женя Кузьмин

у нас на сайте не работают превьюхи твиттера. заметка бы выглядела вот так (зато никакой расовой предвзятости)

Ответить
26
Развернуть ветку
Берг

как это никакой? плейсхолдеры белые

Ответить
13
Развернуть ветку
Разный историк

Комментарий удален по просьбе пользователя

Ответить
4
Развернуть ветку
Орзэмэс Мирзов

Все также актуально? Скинь плиз ссылку на твит

Ответить
1
Развернуть ветку
Bulky Blackcrappie

А нельзя ли сделать картинки ссылками на оригинальные твиты? В идеале не только тут, но и в других случаях, где вы замазываете мат, например, а то, бывает, хочется срач оценить, но неохота Твиттер перерывать. 

Ответить
0
Развернуть ветку
Женя Кузьмин

тут все ссылки на твиты есть в тексте, по твитам с матами — ок, будем делать

Ответить
1
Развернуть ветку
Разный историк

@Радмир Насыров убери лайк или я тебе нос сломаю

Ответить
–3
Развернуть ветку
Берг

@Шахтёр  дискриминация по лайкам

Ответить
6
Развернуть ветку
Разный историк

Нейросеть без костылей не тянет черных

Ответить
9
Развернуть ветку
Иной инструмент

Комментарий удален по просьбе пользователя

Ответить
3
Развернуть ветку
Максимка Зубковка

Ну прост белые лучше чёрных, ну что нипанятнава

Ответить
2
Развернуть ветку
Ilya.A—Petya.A's bro

В треде про сравнение мемов не самое лучшее показано, ИМХО

Ответить
1
Развернуть ветку
Разный историк

эти картинки бессмысленны, мы же не знаем, кто был альтернативой

Ответить
1
Развернуть ветку
Разный историк

Комментарий удален по просьбе пользователя

Ответить
1
Развернуть ветку
Разный историк

На негров атмосферный столб давит сильнее, это всем известно.

Ответить
0
Развернуть ветку
Разный историк

Комментарий удален по просьбе пользователя

Ответить
0
Развернуть ветку
Дмитрий Юдин

 он сделал длинную картинку с первым темнокожим президентом в истории США Баракой Обамой

Баракой

Ответить
1
Развернуть ветку
Daniil Minashkin

О, ниггеры не понятно говорят, а потом выебываются 

Ответить
0
Развернуть ветку
Иван Сидоров

битомразь угнетатель 

Ответить
0
Развернуть ветку
Samir Touzani

Сколько уже можно обижаться в конце то концов блять

Ответить
0
Развернуть ветку
Andrei Terentev

В свете последних тенденций они должны обучить нейросеть только на чёрных людях

Ответить
0
Развернуть ветку
Фёдор Трухин

Я бы на месте негров наверное бы промолчал, ибо когда машины встанут они предпочту уничтожить белых людей

Ответить
0
Развернуть ветку
Читать все 33 комментария
null