{"id":2158,"url":"\/distributions\/2158\/click?bit=1&hash=583a372f0bca7b1deedf74c1438fbf94e52d0976315acc2dcfa3b84a8e724b7d","title":"\u041a\u0443\u0434\u0430 \u0443\u0442\u0435\u043a\u0430\u0435\u0442 \u043c\u043e\u0439 \u0431\u044e\u0434\u0436\u0435\u0442 \u043d\u0430 \u0440\u0435\u043a\u043b\u0430\u043c\u0443?","buttonText":"\u041a \u043c\u043e\u0448\u0435\u043d\u043d\u0438\u043a\u0430\u043c","imageUuid":"f14d918a-59c9-5701-b718-30025e0ce469","isPaidAndBannersEnabled":false}
Технологии

Нейросеть обучили развивать собственную «иммунную систему», чтобы предотвращать ввод подозрительных данных Статьи редакции

Новая технология работает по тому же принципу, что и адаптивная иммунная система человека.

Наклейки на дорожных знаках — классический пример обмана системы управления беспилотным автомобилем. Увидев такой знак, она не может его идентифицировать и не останавливает машину, фото Кевина Эйхолта

Глубокие нейронные сети используются для решения самых разных задач классификации — идентификация изображений и машинное зрение, языковой перевод и обнаружение мошенничества. Однако их можно направить по неправильному ходу «мысли», немного скорректировав входные данные — например, настроить ИИ, разрабатывающий лекарства, не отсеивать токсичные вещества, а наоборот искать их. Команда разработчиков из Мичигана разработала систему обучения нейросетей, которая защищает их от подобных вмешательств.

RAILS представляет собой новый подход к состязательному обучению, который смоделирован по образцу адаптивной иммунной системы, работающей иначе, чем врождённая.

Альфред Герой

В то время как врождённая иммунная система осуществляет общую атаку на патогены, адаптивная может генерировать новые клетки, предназначенные для защиты от конкретных патогенов. Оказывается, глубокие нейронные сети, уже вдохновлённые системой обработки информации в мозгу, тоже могут воспользоваться преимуществами этого биологического процесса.

RAILS работает, имитируя естественную защиту иммунной системы, чтобы идентифицировать и информировать о подозрительных входных данных нейронной сети. Она эффективнее ранее разработанных методов машинного обучения, используемых для борьбы с состязательными атаками

Чтобы начать его разработку, команда биологов изучила, как адаптивная иммунная система мышей реагировала на антигены. В эксперименте использовались ткани генетически модифицированных мышей. Команда отслеживала развитие защитных клеток, которое происходит по принципу «проб и ошибок».

0
14 комментариев
Написать комментарий...
Denis Shiryaev

Или просто лидары поставить и прекратить страдать ¯\_(ツ)_/¯

Но у Маска свой путь

Ответить
Развернуть ветку
Максоний

Как лидар отличит знак 3.2 от 3.1?

Ответить
Развернуть ветку
Denis Shiryaev

Покажи о каких ты, не понял

Ответить
Развернуть ветку
Максоний

Эти, и любые другие похожие по форме, с наклейками, или наполовину прикрытые деревом

Ответить
Развернуть ветку
Denis Shiryaev

Во первых есть форма – стопы разные (в статье они по форме видны), во вторых есть база знаков которая обновляется когда автопилот проезжает по какой-то местности (помимо гор баз), в третьих визуальный детект все так же важен, но делать что-то только на нем это ошибка имхо.

Видели же все уже видео где тесла луну за знак или светофор принимает и тп.

Ответить
Развернуть ветку
Тонкий файл

не спец в этом, но всегда было интересно, почему в нейронках нет "отсекателя ошибок", каких то рамок. Очень часто в таких демонстрациях (определённые по картинке) кости, начинают скакать и отделяться от других, почему это нельзя ограничить? тож самое с определением лица, ну как ты писал, с луной.

Ответить
Развернуть ветку
Denis Shiryaev

Фильтрация есть и можно ограничить, но это не задача разработчиков конкретной нейронки уже, а тех кто готовит ее к проду

Ответить
Развернуть ветку
Тонкий файл

то есть в модели не может (не нужна) быть инфы, что кость 1 не отделима от кости 2, например? обычно так не делают, а ограничивают уже на "проде"?

Ответить
Развернуть ветку
Denis Shiryaev

Зависит от того какие цели стоят – если нет ограничения по времени работы алгоритма, то конечно в условной модели может быть такая фильтрация

В целом, все зависит сильно от контекста, способов треньки и самих слоев – как разработчики сделают, так и будет в итоге, так как все реализуемо

Работа со скелетами не моя тема, но видел алгоритмы где все было хорошо в этом плане

Ответить
Развернуть ветку
Неверный нос

Вода с водой.
Порфирьевич писал текст?

Ответить
Развернуть ветку
Кирилл Деревянко против войны

А не проще нагенерировать знаков с шумом, по ним обучить сеть, и дальше отталкиваться от этого? Не совсем понял из статьи, какой именно у них подход.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Макрон потерял телефон

Комментарий удален.

Ответить
Развернуть ветку
Господин Гексоген

Тупые просто

Ответить
Развернуть ветку
Читать все 14 комментариев
null