ИИ, разрабатывающий лекарства, придумал 40 тысяч вариантов потенциально смертоносного химического оружия
Этого мало для воплощения оружия в реальность, ведь также нужны специальные знания, оборудование и сырье.
Предполагается, что многие из получившихся молекул будут более токсичными, чем одно из самых известных боевых токсических веществ VX
Специалисты из Collaborations Pharmaceuticals, Inc. изучили, как можно использовать ИИ в создании токсичных молекул. Для этого они изменили настройки генератора молекул MegaSyn, который руководствуется предсказаниями модели машинного обучения с целью поиска новых лекарств, и должен отсеивать потенциально токсичные элементы. Учёные просто инвертировали эту логику, направив ИИ на поиск токсичных веществ. Тот менее чем за шесть часов предложил 40 тысяч вариантов потенциального биологического оружия.
ИИ работал с общедоступной базой данных молекул, в основном похожих на лекарства (то есть могут быть поглощены организмом), и анализировал их биологическую активность. Чтобы сузить поиски, исследователи направили модель к таким соединениям, как нервно-паралитическое вещество VX, разработанное в XX веке.
Но ИИ пошёл дальше: в результате он разработал вещества не только на базе VX, но и на базе других известных боевых отравляющих веществ — в том числе на базе «Новичка». Также было разработано много новых молекул, которые потенциально ещё опаснее уже известных.
Меня беспокоило то, насколько легко это было сделать. Многое из того, что мы использовали, доступно бесплатно. Вы можете скачать набор данных о токсичности откуда угодно. Если у вас есть кто-то, кто знает, как программировать на Python и обладает некоторыми способностями к машинному обучению, то, вероятно, за хороший уик-энд работы он может построить что-то вроде этой генеративной модели, основанной на токсичных наборах данных.
Однако исследователи успокаивают: для того, чтобы использовать модель во вред всё же требуются определенные специфические знания. Не являясь специалистом в области, даже с таким инструментом как ИИ, на выходе можно получить лишь бесполезный материал.
Кроме того, молекулы ещё надо синтезировать — для этого требуются уже не только знания, но и специальное оборудование, которое не так распространено. Многие элементы этих боевых отравляющих веществ хорошо известны, и за ними ведется наблюдение — не так много компаний их синтезируют. Это является весьма серьёзным препятствием к легкому созданию биологического оружия.
#биология