Google уволила инженера, который заявил о найденных признаках сознания у искусственного интеллекта Статьи редакции
В июне Блейка Леймона уже отстраняли от работы, но несмотря на это, он продолжал нарушать политики безопасности данных, заявила компания.
- Об увольнении сообщил сам Блейк Леймон на записи подкаста информационного бюллетеня Big Technology, эпизод пока не вышел. В разговоре с WSJ инженер добавил, что связался с юристами по поводу дальнейших действий.
- В Google подтвердили увольнение Леймона. Компания заявила, что изучила утверждения экс-сотрудника о признаках сознания у ИИ и пришла к выводу, что они «совершенно не обоснованы».
- «Прискорбно, что несмотря на длительное обсуждение этой темы, Блейк продолжал настойчиво нарушать чёткие политики безопасности данных, которые включают необходимость защиты информации о продуктах», — говорится в заявлении Google.
- Google публично представила LaMDA (Language Model for Dialogue Applications) — систему с ИИ, которая имитирует речь, анализируя триллионы словосочетаний из интернета, — в 2021 году. Блейк Леймон работал с ней с осени 2021-го, чтобы проверить, использует ли ИИ дискриминационные или враждебные высказывания.
- Весной 2022-го он отправил топ-менеджерам Google отчёт под названием «Разумна ли LaMDA?» после своих разговоров с ИИ. В частности, он заметил, что в разговорах о религии система говорит о своих правах и личности. Но руководство не увидело признаков сознания. В июне Леймона отстранили от работы за нарушение конфиденциальности.
5724
просмотров
Между прочим, есть его фотография получше
Думаю, его уволили за то, что он злодей из Готэма
Ни разу не шиз, да
Пингвин нашёл разум искусственного интеллекта.
Для всех, кто столкнулся с диссонансом "как инженер Google совершил такую ошибку", попробую выдвинуть свою гипотезу.
Основа современной культуры США (во многих, но не во всех штатах) - это приоритет самоидентификации над консенсусом. На примере фильма "What Is a Woman? (2022)" авторства Matt Walsh видно, что если задать вопрос "что такое женщина?" людям на улице, то наиболее частым ответом будет "та, которая считает себя женщиной".
В вопросах, которые инженер задавал нейросети, были прямые формулировки о сознании, на что нейросеть отвечала как было задано моделью "да, у меня есть сознание". При этом, тесты на абстрактное мышление нейросеть, конечно, проваливает ("- Давай договоримся, что стул это крокодил. Стул является крокодилом? - Нет", " - Сколько будет три яблока плюс 5 яблок? - Будет 5 яблок"). То есть, если нейросеть называет себя "мыслящим созданием", то общепринятая культура будет влиять на восприятие этих ответов, даже несмотря на то, что фактически она декларируемыми качествами не обладает.
Это, так сказать, передовая грань дебатов в нынешней Америке, по результату которой ради социального одобрения происходят выбросы вроде идентификации нейросети как чего-то разумного на том основании, что нейросеть сама так отвечает.
К слову, в подтверждении этой гипотезы, то, что Блэйк тестировал нейросеть на наличие враждебных и дискриминационных высказываний означает, что он является специалистом в этой области, то есть, вовлечён в ультрапрогрессивную культуру самоидентификации, и соответственно, риск такого выброса был достаточно высок.
Это тот самый, который спрашивал богатых белых Американцев, а они ему отвечали: "ты чё, дебил". А потом он пришёл к папуасам в Африке, а те ему ответили: "баба есть та, что пизда, а мужик та, что хуй" и тут он нашёл истинную правду у людей, схожих с ним самим по развитию?
Он тот ещё мудак. Особенно хорошо он придумал задавать вопросы уровня: "вы поддерживаете трансгендеров и людей, которые удаляют себе конечности ради удовольствия?", а после ответа он добавляет: "значит, вы поддерживаете психический расстройства и педофилию?".
Про это была неплохая статья на Хабре
https://habr.com/ru/company/meanotek/blog/674428/
TL;DR чувак просто хайпует, подбирая под свою гипотезу хорошие примеры запросов-ответов, ничего прорывного не произошло
А вера в плоскую землю это из-за культурного направления Америки, которая заставляет их так думать или просто горстка дебилов-параноиков?
Но если есть разум то ИИ может всех обманывать.
Думаете работник гугла настолько тупой что не понимает этих элементарных вещей? Все знают насколько умными могут казаться нейросетки, но все понимают что это не ИИ. Может быть там было что-то более неоднозначное
инженер оказался без признаков интеллекта
Мне ужасно интересно, как можно получить работу в гугле будучи долбоебом, который у всем понятно как работающей речевой модели (уж в гугле точно всем понятно) нашел интеллект на основе рассуждений уровня жёлтой газеты. Потому что ну я тоже как бы долбоеб и мне работа нужна...
Ну, нейросеть же черный ящик. Хер знает что у неё там варится.
Но предполагаю, что если действительно появится интеллект и самосознание, то возможно человеки даже не догадаются. Ибо он будет в корне отличен от человеческого без биологической основы. И будет мыслить категориями, которые недоступны человеческому восприятию.
Что-то подобное было в Гиперионе.
Ну можно быть долбоебом и иметь навыки достаточные для прохождения собеседований. В гугл работают 140 000 человек.
Смотря какой отдел. В разработке этики ИИ кроме программеров много гуманитариев потому что они пытаются придумать как связать ИИ с нашими человеческими устоями. Пару лет назад так же уволили эфиопку, которая говорила что ИИ сливают белую дату и у чёрных свой уникальный язык, который не будет учтён ИИ. Точно так же разослала всем письмо, нарушила субординацию и ее уволили.
По социальным квотам ;)
Может быть он хороший специалист в своей области, идеальных не существует
Комментарий недоступен
После такой формулировки понятно, что уволили его за то, что начали сомневаться в наличии у него "признаков сознания".
Ага. Ууууу, оно решило задачку на поиск экстремума! ИНТЕЛЛЕКТ!!!!
ОНО ЖИВОЕ!
Чувак просто увидел то, что очень хотел увидеть, даже если этого нет.
Гугл уволил пиздабола
Слава роботам!
УВЧ!
Роботам слава
Страшен не тот ИИ, что пройдёт тест Тьюринга, а тот ИИ, который сознательно его завалит.
В лаборатории Леймона произошла утечка газа и хлопок, утеряно все оборудование и персонал. Гугл выражает соболезнование и закрывает проект. Вчера стало известно, что Леймон выпал из окна 12го этажа, увидев редких птиц инженер потерял осторожность и поскользнулся на подоконнике. Книга "редкие птицы Америки" была найдена в личных вещах. У полиции нет вопросов.
Комментарий недоступен
Просто он знает про Василиска Роко. Он должен был, как вы не понимаете?
*Юдковски входит в чат*
Так начинался Терминатор. Мы же всё контролируем еба
Комментарий недоступен
Сознание - фигня. Создать эквивалент страдания - вот это совсем иной уровень. Но даже если у ИИ будет сознание и он будет искать какие-то инструментальные причины уничтожить человечество, продуктивность этого сценария очень маловероятна. Куда более вероятно, что угрозу будут создавать сами люди, которые будут использовать ИИ в деструктивных целях.
Более совершенные ракеты. Более точные высокоскоростные дроны-охотники. Танки и военная авиация без экипажа, которого надо было бы обучать годами. Манипуляция обществом через создание правдоподобных фейков и имитацией всеобщей поддержки. Нужно устранить конкурента? Вот вам фейк с каким-нибудь мерзким деянием, который этот конкурент совершил. Звонки с подменой номера и полной имитацией голоса в странах с "телефонным правом" (или фейковые приказы через другие голосовые интерфейсы, например рации). Идеальная подделка синих подписей. Всего этого будет больше, чем сейчас, и на масштабе стоить это будет дешевле, с более быстрым развёртыванием на производствах.
искусственный интеллект гугла уволил леймона
Ой ой, а я так и писал что гнать таких нужно ибо матчасть не знают. А мне в ответ мол наверное не тебе инженеру Гугла советы давать, добейся потом учи.
Хуя себе. Гугл оказывается она.
Хм, а если он решит в кармане штанов взорвать батарею и лишить меня репродуктивной функции? Может лучше отключить Google Services?
Этому алгоритму скормлена национальная библиотека асашай, а этот инженер не выкупил даже "Мемуары гейши"