Тестировщики DALL-E 2 показали, как нейросеть генерируют фотореалистичные лица людей

У получившихся персонажей весьма неформальный стиль.

OpenAI разрешила тестировщикам DALL-E 2 поделиться сгенерированными нейросетью изображениями фотореалистичных человеческих лиц. Так как DALL-E 2 всё ещё находится в стадии закрытого тестирования, разработчик обычно тщательно скрывает, какие типы результатов тестировщики могут публиковать.

Согласно электронному письму, пользователям теперь разрешено делиться реалистичными фотографиями лиц, созданными системой, после того, как разработчики установили меры безопасности, предназначенные для предотвращения создания фейковых изображений.

В частности, теперь система автоматически «отвергает попытки создать подобие любых общественных деятелей, в том числе знаменитостей», а также блокирует загрузку пользователями изображений человеческих лиц на сайт. Ранее средства защиты системы не позволяли пользователям создавать изображения только политических деятелей.

Пользователи уже начали делиться некоторыми примерами:

Способность нейросети генерировать реалистичные человеческие лица поднимает множество этических вопросов. В OpenAI признали, что DALL-E часто воспроизводит расистские и сексистские стереотипы, когда в текстовые подсказки включаются определённые слова. Например, по запросу «генеральный директор» нейросеть генерирует изображения исключительно мужчин в деловых костюмах, а использование слов «медсестра» или «личный помощник» побуждает систему создавать изображения женщин.

Всё потому, что DALL-E обучается на больших языковых моделях (LLM), которые содержат широкий спектр неприемлемого контента, включая порнографические изображения, расистские оскорбления и вредные социальные стереотипы. Таким образом, нейросеть наследует социальные предубеждения и ограничения больших языковых моделей.

#dalle2 #нейросети #новости