«Мы не ищем детскую порнографию на iPhone»: вице-президент Apple объяснил принцип работы функций для защиты детей

Функция определения контента с сексуальным насилием над детьми в iCloud

• Федериги подчеркнул, что технология сканирования применяется только к фотографиям, которые загружаются в iCloud. Если владелец iPhone отключает выгрузку снимков в облачное хранилище, защитная функция тоже автоматически выключается.
• За сканирование отвечает многоэтапный алгоритм, который проводит частичный анализ снимков на iPhone при выгрузке фотографий в iCloud. Вторая часть проверки происходит уже в iCloud силами облачного хранилища.
• Apple получит предупреждение только в случае, если в облачном хранилище пользователя появится определённое количество снимков с изображением сексуального насилия над детьми, по словам Федериги — около 30. При этом компания узнает только об этих потенциально незаконных фотографиях — все другие остаются для неё недоступными.

Это должно быть предельно ясно — анализ не затрагивает фотографии вашего ребёнка в ванне или, раз уж на то пошло, снимки с изображением порнографии любого другого рода. Алгоритм в буквальном смысле определяет только точнейшие совпадения с конкретными изображениями с детской порнографией.

Крейг Федериги

• Учётная запись, на которой алгоритм фиксирует более 30 вероятных нарушений, получает пометку и после её проверяют специалисты Apple на предмет того, действительно ли снимки содержат детскую порнографию. Если это так, Apple сообщает об этом в Национальный центр поиска пропавших и эксплуатируемых детей.
• Федериги категорически отверг версию журналистки о том, что функция сканирования — это лазейка для властей, предоставляющая им доступ к данным пользователей. По его словам, компания разработала систему с несколькими уровнями проверки, поэтому её нельзя использовать ни для чего, кроме определения детской порнографии.

Опция оповещения родителей о получении и отправке сексуальных фотографий в iMessage

• Если родитель включит эту функцию на iPhone своего ребёнка, то получаемые им снимки потенциально порнографического характера будут размыты. При этом ребёнок получит предупреждение о том, что содержимое может быть небезопасным, но сможет проигнорировать его и посмотреть снимок.

• Родители смогут включить функцию оповещения о том, что ребёнок решил посмотреть потенциально опасный контент в случае, если ему меньше 12 лет. По словам Федериги, если эта опция будет включена, то iPhone уведомит ребёнка о том, что родитель получит оповещение о просмотре.
• Федериги подчеркнул, что технологии, использующиеся для проверки снимков в iMessage и для поиска контента с сексуальным насилием над детьми, кардинально отличаются друг от друга. Определение содержимого снимков в iMessage происходит при помощи алгоритмов машинного обучения на iPhone. Поиск контента в iCloud же выполняется нейросетями путём сопоставления хешей изображений.