{"id":1015,"title":"\u0410\u043b\u044c\u0431\u043e\u043c \u043e \u043b\u044e\u0431\u0432\u0438 \u0432\u043e \u0432\u0440\u0435\u043c\u044f \u0432\u043e\u0439\u043d\u044b \u0431\u0435\u0437 \u0435\u0434\u0438\u043d\u043e\u0433\u043e \u0441\u043b\u043e\u0432\u0430 ","url":"\/redirect?component=advertising&id=1015&url=https:\/\/tjournal.ru\/umg\/472440-poslushat-novoe-oulavyur-arnalds-i-strunnyy-kvartet&placeBit=1&hash=2f79f2d1dce5a3269d2e27f43f5810c5215f9449ef7975dca45f4a27e2574b04","isPaidAndBannersEnabled":false}

Мнение: «Искусственный интеллект» вместо депутатов и чиновников — плохая идея Статьи редакции

Почему не стоит мечтать, что ИИ станет ключом к идеальному государству.

Фото Element5Digital

В 2021 году Европейский университет провёл соцопрос и выяснил, что больше половины (51%) европейцев согласны заменить депутатов и чиновников на искусственный интеллект с данными о населении. Больше всего эта идея понравилась в Испании (66%), Италии (59%) и Эстонии (56%), а за пределами Европы — в Китае (75%). А отрицательно отреагировали британцы (69%), голландцы (56%), немцы (54%) и американцы (60%).

Замена политиков на мощные компьютеры с ИИ кажется привлекательной, но только на первый взгляд, а на самом деле с этим связано множество проблем. Редактор издания The Next Web Тристан Грин (Tristan Greene) рассказал, почему автоматизация политики — это плохая идея. TJ приводит адаптацию материала.

Примечание: под ИИ в статье имеются в виду системы вроде нейронных сетей и другого машинного обучения, хотя все они — не настоящий искусственный интеллект, который способен самостоятельно мыслить и создавать новые идеи и решения.

Искусственный интеллект предвзят не меньше людей

Когда люди говорят об ИИ в управлении, они обычно представляют его как «неиспорченную» сущность, которая не лжёт, не имеет тайных целей и предрассудков, полностью объективна и неподкупна. Но это далеко от реальности.

Любая система, которая использует машинное обучение и прочие ИИ-технологии, может быть заведомо предвзятой.

Такие системы обучаются на данных, которые готовятся (выбираются) людьми, и эти данные могут просто не отражать реальность в полной мере. Интересы и желания малочисленных групп людей (не говоря уже об отдельных людях) могут остаться «за бортом» — и тогда после обучения ИИ начнёт ещё сильнее дискриминировать меньшинства своими решениями.

Проще говоря, управляющий ИИ может «законсервировать» существующий расклад мнений по различным вопросам, со всеми его недостатками и несправедливостью. Также он, скорее всего, будет игнорировать появление новых групп людей и новых потребностей.

Если же регулярно обучать ИИ всё новыми и новыми данными от голосований и соцопросов, то возникает вопрос: не проще ли решать вопросы методом прямой демократии вместо использования лишней прослойки в виде ИИ?

Искусственный интеллект это «чёрный ящик», который может жульничать

В демократической системе избиратели могут потребовать от политиков объяснений по тому или иному решению, и потребовать отменить это решение. Существующие системы ИИ никаких объяснений давать не способны — они работают по принципу «чёрного ящика».

В систему поступают данные и она их как-то обрабатывает. Как именно — сказать не может никто, даже создатели этой системы.

Такой полностью непрозрачный механизм вряд ли будет пользоваться доверием людей. Учёные, работающие над созданием объясняемого ИИ, отмечают: людям необходимо знать, каким образом принимается решение, чтобы понять — соглашаться с ним или нет. Это особенно важно в контексте искусственного интеллекта, потому что он может решать задачу совсем не так, как от него ждут.

Например, одна из ИИ-систем распознавания изображений «узнавала» лошадей на фото совсем не по характерным чертам этих животных. Вместо этого нейросеть искала на изображении значок копирайта, который чаще всего встречался на фотографиях лошадей, и по его наличию делала вывод, что на изображении — лошадь. Из-за этого в её выводах был высок процент ошибок.

Другую систему пытались научить захватывать виртуальные объекты манипулятором. Но ИИ быстро стал жульничать, помещая манипулятор между наблюдателем и объектом так, чтобы создать иллюзию захвата. Создателям системы пришлось добавить визуальные метки на объекты и манипулятор, чтобы наблюдателю было видно, когда ИИ пытается обмануть его.

Искусственный интеллект может сделать ради цели всё что угодно

Даже существующие ИИ бывают очень эффективными в достижении какой-либо цели — например, ставить диагнозы с точностью более 90% или открывать новые химические реакции. Как ни странно, именно эта высокая эффективность может стать основной угрозой для людей со стороны ИИ на политических постах — он способен извратить заложенную в него цель в духе злого джинна из арабских сказок.

На эту проблему обращает внимание оксфордский профессор Ник Бостром, приводя в пример ИИ, который создали для максимально эффективного производства скрепок. Такой ИИ быстро поймёт, что существование человечества угрожает его задаче, потому что люди могут прекратить его работу в любой момент. А тела людей «напрасно расходуют» множество химических элементов, из которых можно было бы сделать скрепки.

Смысл правительств и парламентов не в том, чтобы максимально эффективно решать задачи, а в том, чтобы служить людям. Иначе люди неизбежно превращаются в средство достижения этих целей. Есть сомнения, что машинный интеллект в принципе способен служить людям лучше, чем это могут делать сами люди. Существующие ИИ слишком глупы и непрозрачны для этого.

В будущем люди могли бы создать полноценный ИИ, который способен самостоятельно обучаться, создавать новые идеи и решения. Но непонятно, чем такой ИИ будет отличаться от людей в плане «чистоты» работы на политических постах. Одно из главных свойств интеллекта — способность ставить цели перед собой. Можно ли быть уверенным, что полноценный ИИ поставит перед собой цель честно служить людям?

Люди-политики, какими могущественными бы они ни были, всё же остаются людьми — смертными существами, умеющими сопереживать себе подобным. Будет ли таким же осторожным и эмпатичным полноценный машинный интеллект, которого с людьми ничего не связывает — сказать трудно.

Возможно, поэтому уже сейчас Европа предпринимает шаги по ограничению использования ИИ в госсекторе, а известный энтузиаст науки и технологий Илон Маск считает, что «искусственный интеллект намного опаснее ядерного оружия», и что его нужно контролировать.

0
28 комментариев
Популярные
По порядку
Написать комментарий...
Rudolf Cunningham

Даже существующие ИИ

Еще ни одного не существует. Уже шиза какая-то любую нейронку ИИ называть. Мы ж тут не инвестиции выбиваем, можно и по существу говорить, а не маркетинговый булшит изрыгать.

Ответить
28
Развернуть ветку
Дефицитный Сервелат

В статье и написано, что ИИ — это не искусственный разум, а просто продвинутые методы решения сложных задач.

Ответить
1
Развернуть ветку
Hagotireno

В статье-то написано, только вот в итоге слово используется в обоих значениях, и переход между ними (начиная с ии, производящего скрепки) может быть не всем очевиден.

Ответить
3
Развернуть ветку
Дефицитный Сервелат

Про скрепки да, неудачно написано.

Ответить
0
Развернуть ветку
Alex Ford

Вопрос не в тему, как ты делаешь цитирование?😀😅

Ответить
0
Развернуть ветку
Rudolf Cunningham

Вот так

Ответить
0
Развернуть ветку
Alex Ford

Спасибо :)

Ответить
0
Развернуть ветку
Полный блик

Да ладно, @Нейроцарапун отлично бы справился

Ответить
6
Развернуть ветку
Нейроцарапун

ты в разработке)

Ответить
23
Развернуть ветку
Андрей Николаев

под ИИ в статье имеются в виду системы вроде нейронных сетей и машинного обучения
нейросети — это один из видов машинного обучения)))

В целом сама идея замены человека в системе принятия политических решений на ML довольно бредовая, популистская и скорее отражает неграмотность респондентов в данной сфере.

Грубо говоря, системы, построенные на машинном обучении, могут всего лишь принимать/сочетать те решения, которые люди УЖЕ принимали ранее, т.е. например, если ранее никто из чиновников никогда не прокладывал тротуары на месте тропинок во дворе, то система никогда теперь и не проложит их.
Второе — ML-системы решают ОЧЕНЬ узкоспециализированные задачи (похож ли текст запроса в Гугле на заголовок вот этой вот страницы, на картинке лошадь или нет итд), то есть эти задачи должны быть заранее определены, а сделать это для всех ситуаций в жизни невозможно.

Ответить
5
Развернуть ветку
Полный блик

Но непонятно, чем такой ИИ будет отличаться от людей в плане «чистоты» работы на политических постах.
Кому не понятно то? Очевидно, что ИИ отличается от людей отсутствием безграничных базовых потребностей и как следствие личных корыстных целей. Стоит понимать, что задача человека как биологического существа - это выживание и распространение генов. Из этих базовых потребностей и вытекают все наши "грехи". У ИИ нет ни возможности ни цели выживать/размножаться, если это не реализовано в его программе (нахуя бы это кому то реализовывать). Не надо очеловечивать ИИ, наш разум это побочный эффект, приобретенный в ходе эволюции для более эффективного выживания. Искусственный интеллект на то и искусственный, что его цели и задачи совершенно иные.

Ответить
4
Развернуть ветку
Alexander Personazhe

Ну в статье как бы на это и указывается. Никто не спорит, что любой алгоритм будет стараться решить поставленную задачу максимально эффективным способом. И при этом алгоритм никогда не сможет учесть все переменные. И проблема именно в этом — нет никаких гарантий, что в какой-то момент такой алгоритм каким-то своим, никому не понятным путём придёт к выводу, что для решения проблемы следует предпринять определённые действия, которые для любого человека будут очевидно недопустимыми. И если такой алгоритм будет наделён неограниченной властью — то нам всем кирдык, а если все решения такого алгоритма будет предварительно проверять специальная группа людей — то нахрена вообще нужен такой алгоритм, ведь решения в итоге всё равно будут принимать люди?

Ответить
–2
Развернуть ветку
Полный блик

Ты так говоришь, будто человек всегда учитывает все переменные. Способности ИИ к обработке больших объемов информации и анализу статистических данных существенно превышают способности человека. Опять же, каким образом нам кирдык, если всё, что будет делать ИИ - это придумывать реформы, в результате которых будет расти экономика и уровень счастья у населения. Сам ИИ при этом ничего не исполняет, исполняют люди. И да, нужен прозрачный контролирующий орган, который сможет отклонять решения ИИ и корректировать алгоритм. А ответом на вопрос "зачем тогда ИИ, если решение принимает человек" - в развитых странах не существует органа власти, который бы принимал все решения единолично. Всегда нужна система сдержек и противовесов. Иначе получается единая Россия. ИИ же в этой системе нужен для того, чтобы давать наиболее эффективные реформы. Кроме того, в статье был затронут тезис о том, что ИИ это черный ящик и никто не понимает как именно оно работает на самом деле. Так вот, это сейчас мы не понимаем, но кто сказал, что мы никогда не поймём? Ну или можно сделать ещё один ИИ, который не будет обладать целеполаганием и просто будет анализировать алгоритмы работы и создавать визуализацию алгоритма или же будет моделировать наш мир после принятия того или иного решения и строить визуализацию модели. Вариантов масса, просто нужно обо всём этом подумать при реализации такой ИИ и здесь и кроется самая главная проблема.

Ответить
5
Развернуть ветку
Андрей Николаев

ИИ это черный ящик и никто не понимает как именно оно работает на самом деле. Так вот, это сейчас мы не понимаем, но кто сказал, что мы никогда не поймём?

На самом деле, понять можно, осознать нет, вот вам просто пример:
если скалярное произведение векторов [полученных путем преобразования слов в цифры] больше 0,76, то:
- если косинус...
можете даже вручную за компьютер посчитать результат, но осознания, что на самом деле происходит, это вам не даст

PS: перестаньте уже, пожалуйста, думать об ИИ, как о чем-то разумном, что вам показывают в научной фантастике, это автомат, который решает и прогнозирует, но ничего оригинального не придумывает.

Ответить
3
Развернуть ветку
Полный блик

Согласен, там основная проблема в том, что на выходе имеем просто совокупность коэффициентов, которые нереально как-то отдебажить глазами, но как работает всё известно

Ответить
2
Развернуть ветку
Alexander Personazhe

всё, что будет делать ИИ - это придумывать реформы, в результате которых будет расти экономика и уровень счастья у населения. Сам ИИ при этом ничего не исполняет, исполняют люди.

Так а зачем он тогда нужен этот алгоритм, повторюсь, если все его решения всё равно будут проверять и имплементировать люди? Идея же была в том, чтобы как раз исключить человеческий фактор из процесса принятия решений! Если в цепочке по-прежнему остаются люди, то этот самый человеческий фактор никуда не девается, а какой тогда смысл в этом?

«Люди предвзяты и совершают ошибки, а потому пускай решения принимает алгоритм! Правда, потом эти решения всё равно будут проверять люди.
Directed by Robert B. Weide».

ИИ это черный ящик и никто не понимает как именно оно работает на самом деле. Так вот, это сейчас мы не понимаем, но кто сказал, что мы никогда не поймём?

Законы физики сказали. У нас есть некая система, законы функционирования которой мы не до конца понимаем. Следовательно, для полного понимания этой системы нам нужно разложить все закономерности и выделить основные принципы. Но проблема в том, что для анализа такой сложной системы нам понадобится ещё более сложная система. И получается, что вместо упрощения мы только ещё сильнее усложним всё.

Современное машинное обучение построено по принципу обучения человеческого. Вы не сможете детально и по пунктам понять и объяснить, почему безобидный болезненный австрийский ребёнок, который любил животных и рисовать акварельками, вдруг вырос в жестокого диктатора и развязал крупнейшую бойню в истории человечества. То же и с машинным обучением — вы строите систему, которая должна анализировать данные на входе и давать некий результат на выходе, но внутри эта система слишком сложна для понимания, слишком много переменных, чтобы можно было спрогнозировать её действия.

можно сделать ещё один ИИ

Больше алгоритмов богу алгоритмов!
Серьёзно? Мы с текущим уровнем сложности уже нихрена не понимаем, как оно всё работает и почему, а ваше «решение» проблемы с алгоритмами заключается в увеличении количества алгоритмов? Это как в фильме «Майор Пейн» — солдат вывихнул ногу и ему больно? Есть отличное решение — нужно сломать ему палец и тогда он забудет о том, что у него болит нога!

просто нужно обо всём этом подумать при реализации такой ИИ и здесь и кроется самая главная проблема

Это отдаёт идеями секты Жака Фреско. «Вот мы сейчас не знаем, как это сделать, но нужно подумать-подумать, и прям всё обязательно придумаем! А объективную реальность мы будем игнорировать, если вдруг эта самая объективная реальность будет свидетельствовать о том, что это невозможно!»

Нет, я ни в коем случае не противник новых идей, прогресса, развития и всего такого. Просто в данный момент есть ряд очевидных проблем свидетельствует о том, что такой сценарий с «универсально справедливым алгоритмом» нереализуем на практике. И перед тем, как утверждать, что «это возможно, просто мы пока не знаем, как», нужно решить существующие проблемы, а потом уже утверждать, что это якобы возможно. Но не наоборот. Потому что в процессе поиска решений этих проблем можно неиллюзорно прийти к выводу, что проблема неразрешима, а потому и вся дальнейшая цепочка рассуждений несостоятельна.

Ответить
–1
Развернуть ветку
Hagotireno

Бля, и конечно же всё снова свелось к уничтожению человечества бесчувственным ИИ.
Classic

Ответить
4
Развернуть ветку
Алексей Иванов

Ну с учётом того, что ИИ пока не может заменить и более простые виды деятельности, было бы странно поручать ему одни из важнейших задач на планете.
Но он может быть вспомогательным инструментом, когда нужно построить модель, найти максимальные значения, и т.п.

Ответить
2
Развернуть ветку
Полный блик

Искусственный интеллект предвзят не меньше людей
Искусственный интеллект это «чёрный ящик», который может жульничать
Искусственный интеллект может сделать ради цели всё что угодно

¯\_(ツ)_/¯

Ответить
2
Развернуть ветку
Полный блик

Цитаты из киношек)

Ответить
0
Развернуть ветку
Общественный микроскоп

Комментарий удален по просьбе пользователя

Ответить
1
Развернуть ветку
Это не шутки

Если ИИ будет обучаться по их решением, то оглянуться не успеешь - БАМ  и ты в тюремной робе шпалы тягаешь. 

Ответить
2
Развернуть ветку
ну и в чем он не прав

от ии до ыы один шаг

Ответить
1
Развернуть ветку
Дмитрий Чернов

В демократической системе избиратели могут потребовать от политиков объяснений по тому или иному решению, и потребовать отменить это решение.

Можно сделать вывод, что в нашей стране уже заметили депутатов и чиновников на ИИ

Ответить
1
Развернуть ветку
Полный блик

А у нас достаточно принтера

Ответить
0
Развернуть ветку
Alex Ford

Пздц

Ответить
0
Развернуть ветку
Артем Шевченко

Статья, написанная кожаным мешком.

Ответить
0
Развернуть ветку
Dmytry Kovalsky

Такое ощущение что статьи пишут школьники.

Ответить
0
Развернуть ветку
Читать все 28 комментариев
null