Технологии
DTF

«Мы не ищем детскую порнографию на iPhone»: вице-президент Apple объяснил принцип работы функций для защиты детей

И заверил, что технологии не будут использоваться ни для каких сторонних целей.

Старший вице-президент Apple по разработке ПО Крейг Федериги дал интервью The Wall Street Journal и прояснил ситуацию с анонсированными ранее защитными функциями iPhone, которые раскритиковали пользователи и СМИ.

По его словам, к путанице привело одновременное объявление о двух разных инструментах: функции определения контента с сексуальным насилием над детьми в облачном хранилище iCloud и опции, отвечающей за оповещение родителей о получении и отправке сексуальных фотографий. Руководитель подробно объяснил принцип работы обеих технологий.

Функция определения контента с сексуальным насилием над детьми в iCloud

  • Федериги подчеркнул, что технология сканирования применяется только к фотографиям, которые загружаются в iCloud. Если владелец iPhone отключает выгрузку снимков в облачное хранилище, защитная функция тоже автоматически выключается.
  • За сканирование отвечает многоэтапный алгоритм, который проводит частичный анализ снимков на iPhone при выгрузке фотографий в iCloud. Вторая часть проверки происходит уже в iCloud силами облачного хранилища.
  • Apple получит предупреждение только в случае, если в облачном хранилище пользователя появится определённое количество снимков с изображением сексуального насилия над детьми, по словам Федериги — около 30. При этом компания узнает только об этих потенциально незаконных фотографиях — все другие остаются для неё недоступными.

Это должно быть предельно ясно — анализ не затрагивает фотографии вашего ребёнка в ванне или, раз уж на то пошло, снимки с изображением порнографии любого другого рода. Алгоритм в буквальном смысле определяет только точнейшие совпадения с конкретными изображениями с детской порнографией.

Крейг Федериги
  • Учётная запись, на которой алгоритм фиксирует более 30 вероятных нарушений, получает пометку и после её проверяют специалисты Apple на предмет того, действительно ли снимки содержат детскую порнографию. Если это так, Apple сообщает об этом в Национальный центр поиска пропавших и эксплуатируемых детей.
  • Федериги категорически отверг версию журналистки о том, что функция сканирования — это лазейка для властей, предоставляющая им доступ к данным пользователей. По его словам, компания разработала систему с несколькими уровнями проверки, поэтому её нельзя использовать ни для чего, кроме определения детской порнографии.

Опция оповещения родителей о получении и отправке сексуальных фотографий в iMessage

  • Если родитель включит эту функцию на iPhone своего ребёнка, то получаемые им снимки потенциально порнографического характера будут размыты. При этом ребёнок получит предупреждение о том, что содержимое может быть небезопасным, но сможет проигнорировать его и посмотреть снимок.
  • Родители смогут включить функцию оповещения о том, что ребёнок решил посмотреть потенциально опасный контент в случае, если ему меньше 12 лет. По словам Федериги, если эта опция будет включена, то iPhone уведомит ребёнка о том, что родитель получит оповещение о просмотре.
  • Федериги подчеркнул, что технологии, использующиеся для проверки снимков в iMessage и для поиска контента с сексуальным насилием над детьми, кардинально отличаются друг от друга. Определение содержимого снимков в iMessage происходит при помощи алгоритмов машинного обучения на iPhone. Поиск контента в iCloud же выполняется нейросетями путём сопоставления хешей изображений.
* * *

Apple объявила об усилении защиты детей 6 августа. Компания внедрила функции в трёх областях — «Сообщениях», фотографиях в iCloud и в Siri. С осени 2021 года системы начнут размывать откровенные снимки для детей до 12 лет в iMessage, проверять фотографии в облаке iCloud на детское порно и давать советы по безопасности детям и родителям в Siri.

После анонса компанию раскритиковали эксперты по кибербезопасности, журналисты и рядовые пользователи. Они обвинили Apple в нарушении приватности и задались вопросами, как ту же функцию могут использовать авторитарные правительства в будущем.

#новости #apple