{"id":2159,"url":"\/distributions\/2159\/click?bit=1&hash=bdcaacc057300f8506340c06d519a582f487bcff27908d05eb42997a4dbdaef9","title":"\u0420\u0435\u043a\u043b\u0430\u043c\u043d\u044b\u0439 \u0431\u044e\u0434\u0436\u0435\u0442 \u043f\u043e\u0442\u0440\u0430\u0442\u0438\u043b\u0438, \u0430 \u0442\u043e\u043b\u043a\u0443 \u043d\u0435\u0442","buttonText":"\u041a\u0430\u043a \u0443 \u043c\u0435\u043d\u044f!","imageUuid":"7b040e27-87ca-5e31-ad48-6ae8b0b1ebed","isPaidAndBannersEnabled":false}
Технологии

Что ещё умеет нейросеть DALL-E 2: галерея с новыми примерами изображений от ИИ — удачными и не очень, проблемы и шутки Статьи редакции

Главная претензия к ИИ связана со стереотипами, предвзятостью, сценами насилия и порнографией. Это типично, ведь нейросети «скормили» миллионы изображений из интернета.

Фото бокалов с напитками, сгенерированных нейросетью. Изображение @djbaskin

В начале апреля OpenAI начала тестировать DALL-E 2 — обновлённую версию нейросети, впервые представленную в январе 2021 года. Программа теперь генерирует более качественные изображения, чем предыдущая версия, опираясь лишь на описание на английском языке. Она также может редактировать фотографии, добавляя на них новые предметы и создавать новые рисунки на основе существующих и делать их в духе оригинала. TJ уже рассказывал о первых результатах работы нейросети.

OpenAI доработала нейросеть DALL-E: теперь она генерирует картинки по текстовому описанию и редактирует уже готовые Статьи редакции

Нейросеть может брать изображение и создавать различные его вариации, изменяя композицию, тени и текстуру.

Однако есть риск, что люди будут использовать DALL-E 2 и другие подобные ИИ для создания, к примеру, порнографии или политических дипфейков. Более того, нейросеть укрепляет вредные стереотипы и предубеждения, что может усугубить некоторые социальные проблемы.

Дело в том, что, как это типично для систем искусственного интеллекта, DALL-E 2 унаследовал предвзятость от корпуса данных, используемых для его обучения: миллионы изображений, взятых из интернета, и соответствующих им подписей. Именно поэтому по запросу «юрист» он выдает сплошь фотографии мужчин в костюмах, а по запросу «стюардесса» — улыбающихся женщин (правда, с деформированными чертами лица).

Есть и более серьёзные примеры: ИИ демонстрирует предвзятое отношение к определённым группам, таким как мусульмане, которых он непропорционально связывает с насилием и терроризмом.

OpenAI знает, что DALL-E 2 генерирует результаты, демонстрирующие гендерную и расовую предвзятость: приведённые выше примеры взяты из собственного документа компании «Риски и ограничения».

Содержание скрыто
Показать
Github

Исследователи OpenAI предприняли несколько попыток решить проблемы предвзятости и справедливости. Но они не могли эффективно искоренить эти проблемы, потому что разные решения приводят к разным компромиссам.

Например, исследователи хотели отфильтровать сексуальное содержание из обучающих данных, потому что это могло привести к несоразмерному вреду для женщин. Но они обнаружили, что, когда они попытались отфильтровать это, DALL-E 2 генерировал меньше изображений женщин в целом. Это нехорошо, потому что это приводит к другому виду вреда для женщин — стиранию.

Предвзятость — это огромная отраслевая проблема, на которую нет надёжного ответа. Поэтому большая часть работы сейчас заключается в том, чтобы просто открыто и заранее сообщать пользователям об оставшихся ограничениях.

Для борьбы с проблемой предвзятости разработчики DALL-E 2 создали так называемую «красную команду». Её задача — найти в нейросети как можно больше недостатков и уязвимостей, чтобы систему можно было улучшить. Всего же доступ к ИИ сейчас имеет около 400 человек — сотрудники и членов совета директоров OpenAI, а также специально отобранные учёные и художники.

Предоставление доступа ограниченной группе пользователей позволяет учить ИИ генерировать более непредвзятые изображения.

Ниже мы опубликовали примеры изображений, получившихся после того, как нейросети «скормили» текстовые описания. Подписи приведены или дословно, или близко к оригиналу.

Получившиеся изображения те публикуют в твиттер — среди них много мемов и шуток

«Средневековые рукописи, изображающие изобретение интернета»

«Чувак из четвёртого века с каменным лицом, застрявший в пробке»

«Кот-пицца»

«Статуя, поскользнувшаяся на льду»

«Кот — американский президент»

«Картина маслом с Генри VIII за диджейским пультом в ночном клубе»

Тестовая группа также тренирует ИИ работать с архитектурными объектами. Получается не всегда

Саграда Фамилия в Барселоне

«Городские пейзажи из Half-Life»

Один из неудачных примеров — модернизация дома в викторианском стиле

«Японская улица»

DALL-E 2 хорошо справляется с подражанием, стилизуя изображения

«Ничего в стиле Рене Магритта»

«Женщина звонит по телефону в стиле Китагавы Утамаро»

«Воспоминание о ностальгии, сюрреалистическая картина Дали»

Изображения в стиле Джорджо де Кирико

«Писательница продумывает основной сюжет своей книги, живопись маслом, в стиле Шпицвег»

Нейросеть даже может выдавать философско осмысленный контент

«Мыслитель в стиле Каспара Давида Фридриха»

«Фотореалистичная метафора первой любви в контексте социологической феноменологии»

Тестовая группа, похоже, запустила флешмоб с надписью «Доброе утро»

«„Доброе утро”, написанное на плато Наска на юге Перу, вид с воздуха»

«Доброе утро» в стиле зарисовок да Винчи

«Доброе утро» в стиле Энди Уорхола

«„Доброе утро” как агитационный плакат с видом на город-антиутопию».

0
65 комментариев
Написать комментарий...
Широкий Слава

Невероятно круто, просто охуеть.

Ответить
Развернуть ветку
JilaNis

Не везде, чем меньше в выборке вариантов образов, тем хуже результат. Но, я думаю, эпоха художников подходит к закату(как и эпоха человечества вообще, против машин мы никто). Разве что случится какой-нибудь "Батлерианский Джихад" с запретом на ИИ.

Ответить
Развернуть ветку
18 комментариев
Вооруженный вентилятор
Исследователи OpenAI предприняли несколько попыток решить проблемы предвзятости и справедливости.

Надо понимать, что никакой справедливости не существует вот и все

Ответить
Развернуть ветку
Bulky Blackcrappy против войны

И всё же имеет смысл где возможно пытаться преуменьшать несправедливость

Ответить
Развернуть ветку
13 комментариев
Неведомый холод

Орнул

Ответить
Развернуть ветку
Резиновый Кирилл
Ответить
Развернуть ветку
JilaNis
Это типично, ведь нейросети «скормили» миллионы изображений из интернета.

Сразу вспомнил бота-расиста от Microsoft.

Например, исследователи хотели отфильтровать сексуальное содержание из обучающих данных, потому что это могло привести к несоразмерному вреду для женщин. Но они обнаружили, что, когда они попытались отфильтровать это, DALL-E 2 генерировал меньше изображений женщин в целом.

В общем-мы дошли до стадии, когда ИИ уже нужно понятие о морали. Ему ведь все равно что генерировать, людей или волосатые анусы, это машина.

Ответить
Развернуть ветку
Elendiar
Ответить
Развернуть ветку
Dmytry Kovalsky

Плохо то что теперь нельзя будет снять видосик как кто то пиздит битой вашу машину и выиграть суд. Ну или например ваша жена будет получать видео где вы ебетесь с ее подругой. А вы не ебетесь.
Уровень фейков будет расти.Тексты в википедии..боты спамеры..политики на удаленке..адвокаты ИИ...стиральные машинки захватят мир.

Ответить
Развернуть ветку
Никита Борисова

Да это говно будет как спецэффекты.
То есть, легко разоблачаться любым видеографом с опытом работы в сони-вегас.

Милкач на ютубе легко разоблачал гореискателей паранормального. А там эффекты делались вручную по кадрам, а не кривыми нейросетями. Миллионы людей верили в монстров с видео, у которых кадров больше, чем у основного видеоряда.

Никакой эпохи фейков не будет. Тупые люди всё ещё будут верить в рейков и "у него рука шевелиться!!!!", а суды всё так же легко будут эти фейки разоблачать при серьёзных разбирательствах.

Ответить
Развернуть ветку
2 комментария
зимнее безмолвие

Кому интересно, можно глянуть тут большее примеров как дали можно будет использовать в иллюстрации
https://openai.com/dall-e-2/

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Хозяйственный Орзэмэс

А что страшного, что люди будут её использовать для создания порнографии? Модели лишатся прибыли?

Ответить
Развернуть ветку
Dmytry Kovalsky

Ты че мораль пошатнется.
Прикинь если все увидят голые сиси ?

Ответить
Развернуть ветку
Михаил Городецкий

Да так-то ничего. Может, порнхаб даже проспонсирует какой-нибудь PORN-E. Но вот покупателей, которые хотят, чтоб картинки генерелись без сексуального контента больше, чем тех, которым пофиг или эксклюзивно сиськи подавай.

Ответить
Развернуть ветку
Jake Vasya

потрясающе. pure art

Ответить
Развернуть ветку
Армейский Илья

Пока одни творят подобные чудеса, другие борются с воображаемым нацизмом ради собственного трона

Ответить
Развернуть ветку
Dmytry Kovalsky

А знаешь что было бы если бы все военные бюджеты тратились на науку и медицину ? И не узнаешь.

Ответить
Развернуть ветку
2 комментария
Кристобаль Фейра

Бля. Ещё одни "нейросеть генерирует не те картинки, которые нам нравятся".

Нейросеть должна генерировать то, что у неё попросили, на основе датасета, который ей дали. Всё.

Каких нах добрые и позитивные картинки? А если задача будет нарисовать сцену жестокости?

Бесят долбоёбы, которые якобы работают с нейросетями, но не удосужились выяснить, что это такое и как работает.

Сначала Dungeon AI угробили, пытаясь "отучить" писать цп - в итоге к цп она стала сводить ЛЮБУЮ сцену с детьми, а взрослый секс блочить, даже если стоит флаг 18+ - теперь и генератор картинок угробят.

Ответить
Развернуть ветку
Fuck war, not privacy

Надеюсь в скором времени woke-культура отомрёт

Ответить
Развернуть ветку
Гар Гарыч

Видео «модернизация дома в викторианском стиле» где видно весь процесс изменения - это анриал👍🏻👍🏻👍🏻

Ответить
Развернуть ветку
Никита Борисова

енджен 5

Ответить
Развернуть ветку
Dmytry Kovalsky

Не ну я так тоже могу...а вот слабо Мурку сыграть ?
Это я к тому что любой критик Дали от ИИ отличит

Ответить
Развернуть ветку
Yggdrasil

DALL-E — охуенное название.

Ответить
Развернуть ветку
Ranae Est

«Писательница продумывает основной сюжет своей книги»

Ответить
Развернуть ветку
Господин Гексоген

Meanwhile somewhere in Russia

Ответить
Развернуть ветку
Хозяйственный Орзэмэс

Кстати, есть пруфы на это? Не то, чтоб я не верил, но Невзоров просто известен своим богоборчеством.

Ответить
Развернуть ветку
1 комментарий
Logic

Мои эмоции при просмотре изображений, созданных нейросетью:

Ответить
Развернуть ветку
Дима Вешкин

Иллюстраторам надо молиться всем богам. чтобы это было подальше от общего доступа еще очень много лет.

Ответить
Развернуть ветку
Читать все 65 комментариев
null