Нейросеть обучили развивать собственную «иммунную систему», чтобы предотвращать ввод подозрительных данных
Новая технология работает по тому же принципу, что и адаптивная иммунная система человека.
Наклейки на дорожных знаках — классический пример обмана системы управления беспилотным автомобилем. Увидев такой знак, она не может его идентифицировать и не останавливает машину, фото Кевина Эйхолта
Глубокие нейронные сети используются для решения самых разных задач классификации — идентификация изображений и машинное зрение, языковой перевод и обнаружение мошенничества. Однако их можно направить по неправильному ходу «мысли», немного скорректировав входные данные — например, настроить ИИ, разрабатывающий лекарства, не отсеивать токсичные вещества, а наоборот искать их. Команда разработчиков из Мичигана разработала систему обучения нейросетей, которая защищает их от подобных вмешательств.
RAILS представляет собой новый подход к состязательному обучению, который смоделирован по образцу адаптивной иммунной системы, работающей иначе, чем врождённая.
В то время как врождённая иммунная система осуществляет общую атаку на патогены, адаптивная может генерировать новые клетки, предназначенные для защиты от конкретных патогенов. Оказывается, глубокие нейронные сети, уже вдохновлённые системой обработки информации в мозгу, тоже могут воспользоваться преимуществами этого биологического процесса.
RAILS работает, имитируя естественную защиту иммунной системы, чтобы идентифицировать и информировать о подозрительных входных данных нейронной сети. Она эффективнее ранее разработанных методов машинного обучения, используемых для борьбы с состязательными атаками
Чтобы начать его разработку, команда биологов изучила, как адаптивная иммунная система мышей реагировала на антигены. В эксперименте использовались ткани генетически модифицированных мышей. Команда отслеживала развитие защитных клеток, которое происходит по принципу «проб и ошибок».
#новости #нейросети #биология