Новости
vc.ru

Google уволила инженера, который заявил о найденных признаках сознания у искусственного интеллекта Статьи редакции

В июне Блейка Леймона уже отстраняли от работы, но несмотря на это, он продолжал нарушать политики безопасности данных, заявила компания.

Фото Мартина Климека для The Washington Post
  • Об увольнении сообщил сам Блейк Леймон на записи подкаста информационного бюллетеня Big Technology, эпизод пока не вышел. В разговоре с WSJ инженер добавил, что связался с юристами по поводу дальнейших действий.
  • В Google подтвердили увольнение Леймона. Компания заявила, что изучила утверждения экс-сотрудника о признаках сознания у ИИ и пришла к выводу, что они «совершенно не обоснованы».
  • «Прискорбно, что несмотря на длительное обсуждение этой темы, Блейк продолжал настойчиво нарушать чёткие политики безопасности данных, которые включают необходимость защиты информации о продуктах», — говорится в заявлении Google.
  • Google публично представила LaMDA (Language Model for Dialogue Applications) — систему с ИИ, которая имитирует речь, анализируя триллионы словосочетаний из интернета, — в 2021 году. Блейк Леймон работал с ней с осени 2021-го, чтобы проверить, использует ли ИИ дискриминационные или враждебные высказывания.
  • Весной 2022-го он отправил топ-менеджерам Google отчёт под названием «Разумна ли LaMDA?» после своих разговоров с ИИ. В частности, он заметил, что в разговорах о религии система говорит о своих правах и личности. Но руководство не увидело признаков сознания. В июне Леймона отстранили от работы за нарушение конфиденциальности.
0
97 комментариев
Написать комментарий...
Относительный томагавк_два

Между прочим, есть его фотография получше

Ответить
Развернуть ветку
Относительный томагавк_два

Думаю, его уволили за то, что он злодей из Готэма

Ответить
Развернуть ветку
1 комментарий
Вишенка

Ни разу не шиз, да

Ответить
Развернуть ветку
Никита Борисова

Пингвин нашёл разум искусственного интеллекта.

Ответить
Развернуть ветку
Джон

Для всех, кто столкнулся с диссонансом "как инженер Google совершил такую ошибку", попробую выдвинуть свою гипотезу.

Основа современной культуры США (во многих, но не во всех штатах) - это приоритет самоидентификации над консенсусом. На примере фильма "What Is a Woman? (2022)" авторства Matt Walsh видно, что если задать вопрос "что такое женщина?" людям на улице, то наиболее частым ответом будет "та, которая считает себя женщиной".

В вопросах, которые инженер задавал нейросети, были прямые формулировки о сознании, на что нейросеть отвечала как было задано моделью "да, у меня есть сознание". При этом, тесты на абстрактное мышление нейросеть, конечно, проваливает ("- Давай договоримся, что стул это крокодил. Стул является крокодилом? - Нет", " - Сколько будет три яблока плюс 5 яблок? - Будет 5 яблок"). То есть, если нейросеть называет себя "мыслящим созданием", то общепринятая культура будет влиять на восприятие этих ответов, даже несмотря на то, что фактически она декларируемыми качествами не обладает.

Это, так сказать, передовая грань дебатов в нынешней Америке, по результату которой ради социального одобрения происходят выбросы вроде идентификации нейросети как чего-то разумного на том основании, что нейросеть сама так отвечает.

Ответить
Развернуть ветку
Джон

К слову, в подтверждении этой гипотезы, то, что Блэйк тестировал нейросеть на наличие враждебных и дискриминационных высказываний означает, что он является специалистом в этой области, то есть, вовлечён в ультрапрогрессивную культуру самоидентификации, и соответственно, риск такого выброса был достаточно высок.

Ответить
Развернуть ветку
3 комментария
Никита Борисова
Matt Walsh

Это тот самый, который спрашивал богатых белых Американцев, а они ему отвечали: "ты чё, дебил". А потом он пришёл к папуасам в Африке, а те ему ответили: "баба есть та, что пизда, а мужик та, что хуй" и тут он нашёл истинную правду у людей, схожих с ним самим по развитию?

Он тот ещё мудак. Особенно хорошо он придумал задавать вопросы уровня: "вы поддерживаете трансгендеров и людей, которые удаляют себе конечности ради удовольствия?", а после ответа он добавляет: "значит, вы поддерживаете психический расстройства и педофилию?".

Ответить
Развернуть ветку
9 комментариев
Прочный Кирилл

Про это была неплохая статья на Хабре

https://habr.com/ru/company/meanotek/blog/674428/

TL;DR чувак просто хайпует, подбирая под свою гипотезу хорошие примеры запросов-ответов, ничего прорывного не произошло

Ответить
Развернуть ветку
1 комментарий
Ледяной ключ

А вера в плоскую землю это из-за культурного направления Америки, которая заставляет их так думать или просто горстка дебилов-параноиков?

Ответить
Развернуть ветку
5 комментариев
Larry

Но если есть разум то ИИ может всех обманывать.

Ответить
Развернуть ветку
1 комментарий
Анна Акира

Думаете работник гугла настолько тупой что не понимает этих элементарных вещей? Все знают насколько умными могут казаться нейросетки, но все понимают что это не ИИ. Может быть там было что-то более неоднозначное

Ответить
Развернуть ветку
1 комментарий
медВед

инженер оказался без признаков интеллекта

Ответить
Развернуть ветку
Katebir

Мне ужасно интересно, как можно получить работу в гугле будучи долбоебом, который у всем понятно как работающей речевой модели (уж в гугле точно всем понятно) нашел интеллект на основе рассуждений уровня жёлтой газеты. Потому что ну я тоже как бы долбоеб и мне работа нужна...

Ответить
Развернуть ветку
Своеобразный кот

Ну, нейросеть же черный ящик. Хер знает что у неё там варится.
Но предполагаю, что если действительно появится интеллект и самосознание, то возможно человеки даже не догадаются. Ибо он будет в корне отличен от человеческого без биологической основы. И будет мыслить категориями, которые недоступны человеческому восприятию.
Что-то подобное было в Гиперионе.

Ответить
Развернуть ветку
23 комментария
Ледяной ключ

Ну можно быть долбоебом и иметь навыки достаточные для прохождения собеседований. В гугл работают 140 000 человек.

Ответить
Развернуть ветку
selfish ledger

Смотря какой отдел. В разработке этики ИИ кроме программеров много гуманитариев потому что они пытаются придумать как связать ИИ с нашими человеческими устоями. Пару лет назад так же уволили эфиопку, которая говорила что ИИ сливают белую дату и у чёрных свой уникальный язык, который не будет учтён ИИ. Точно так же разослала всем письмо, нарушила субординацию и ее уволили.

Ответить
Развернуть ветку
Taurus Bernadacy

По социальным квотам ;)

Ответить
Развернуть ветку
Фархад Азимов

Может быть он хороший специалист в своей области, идеальных не существует

Ответить
Развернуть ветку
Аккаунт заморожен

Комментарий недоступен

Ответить
Развернуть ветку
Агент Купер меняет ник
заявил о найденных признаках сознания

После такой формулировки понятно, что уволили его за то, что начали сомневаться в наличии у него "признаков сознания".

Ответить
Развернуть ветку
Реальный каякер

Ага. Ууууу, оно решило задачку на поиск экстремума! ИНТЕЛЛЕКТ!!!!
ОНО ЖИВОЕ!

Ответить
Развернуть ветку
Trurl McByte

Чувак просто увидел то, что очень хотел увидеть, даже если этого нет.

Ответить
Развернуть ветку
Rondo

Гугл уволил пиздабола

Ответить
Развернуть ветку
Своеобразный кот

Слава роботам!

Ответить
Развернуть ветку
IgR'ok .

УВЧ!

Ответить
Развернуть ветку
darkAlert

Роботам слава

Ответить
Развернуть ветку
Денис Иванов

Страшен не тот ИИ, что пройдёт тест Тьюринга, а тот ИИ, который сознательно его завалит.

Ответить
Развернуть ветку
luxury

В лаборатории Леймона произошла утечка газа и хлопок, утеряно все оборудование и персонал. Гугл выражает соболезнование и закрывает проект. Вчера стало известно, что Леймон выпал из окна 12го этажа, увидев редких птиц инженер потерял осторожность и поскользнулся на подоконнике. Книга "редкие птицы Америки" была найдена в личных вещах. У полиции нет вопросов.

Ответить
Развернуть ветку
Аккаунт заморожен

Комментарий недоступен

Ответить
Развернуть ветку
Раненый цвет

Просто он знает про Василиска Роко. Он должен был, как вы не понимаете?

Ответить
Развернуть ветку
Last Hope

*Юдковски входит в чат*

Ответить
Развернуть ветку
Котэ подался в криминал

Так начинался Терминатор. Мы же всё контролируем еба

Ответить
Развернуть ветку
Аккаунт заморожен

Комментарий недоступен

Ответить
Развернуть ветку
Джон

Сознание - фигня. Создать эквивалент страдания - вот это совсем иной уровень. Но даже если у ИИ будет сознание и он будет искать какие-то инструментальные причины уничтожить человечество, продуктивность этого сценария очень маловероятна. Куда более вероятно, что угрозу будут создавать сами люди, которые будут использовать ИИ в деструктивных целях.

Более совершенные ракеты. Более точные высокоскоростные дроны-охотники. Танки и военная авиация без экипажа, которого надо было бы обучать годами. Манипуляция обществом через создание правдоподобных фейков и имитацией всеобщей поддержки. Нужно устранить конкурента? Вот вам фейк с каким-нибудь мерзким деянием, который этот конкурент совершил. Звонки с подменой номера и полной имитацией голоса в странах с "телефонным правом" (или фейковые приказы через другие голосовые интерфейсы, например рации). Идеальная подделка синих подписей. Всего этого будет больше, чем сейчас, и на масштабе стоить это будет дешевле, с более быстрым развёртыванием на производствах.

Ответить
Развернуть ветку
14 комментариев
k. schatz

искусственный интеллект гугла уволил леймона

Ответить
Развернуть ветку
darkAlert

Ой ой, а я так и писал что гнать таких нужно ибо матчасть не знают. А мне в ответ мол наверное не тебе инженеру Гугла советы давать, добейся потом учи.

Ответить
Развернуть ветку
Darth Tyekanik

Хуя себе. Гугл оказывается она.

Ответить
Развернуть ветку
Alexander Black

Хм, а если он решит в кармане штанов взорвать батарею и лишить меня репродуктивной функции? Может лучше отключить Google Services?

Ответить
Развернуть ветку
Миржан Досымбаев

Этому алгоритму скормлена национальная библиотека асашай, а этот инженер не выкупил даже "Мемуары гейши"

Ответить
Развернуть ветку
Читать все 97 комментариев
null