Apple теперь сканирует загруженный пользователями контент на предмет жестокого обращения с детьми

Эндрю Орр (Andrew Orr, пользователь портала "Mac Observer") обнаружил, что 9 Мая 2019 Apple обновила политику конфиденциальности, и в разделе "Как мы используем личную информацию" появился следующий пункт:

В закладки
Аудио

Мы также можем использовать вашу личную информацию в целях обеспечения безопасности учетной записи и сети, в том числе для защиты наших сервисов в интересах всех наших пользователей, и предварительного просмотра или сканирования загруженного контента для выявления потенциально незаконного контента, в том числе материалов о сексуальной эксплуатации детей.

Пользователь предполагает, что Apple могла делать это годами, однако упоминание об этом в политике конфиденциальности появилось только сейчас. Эндрю использовал сервис Wayback Machine, чтобы убедиться что в предыдущих версиях политики этого пункта не было.

Так же Эндрю считает, что Apple использует технологию PhotoDNA, разработанную Microsoft в 2009 году. PhotoDNA в основном используется в профилактике детской порнографии, и работает путем вычисления уникального хеша изображения. Этот хэш вычисляется так, что он устойчив к изменениям в изображении, включая изменение размера и незначительные изменения цвета. Он работает следующим образом: преобразовывает изображение в черно-белое, изменяет его размер, разбивает его на сетку, и ищет градиенты интенсивности или края объектов. Данный алгоритм используется такими компаниями, как Facebook, Twitter, Google и другими. В основном, это работает путем создания хэша фотографии или видео, и дальнейшим сравнением его с известной базой хэшей в NCVIP.

Согласно FAQ о PhotoDNA, изображения мгновенно преобразуются в безопасный хэш и не могут быть восстановлены. PhotoDNA специально используется для детской порнографии и не может быть использована для поиска другого контента.

В обзоре системы безопасности iCloud Apple сообщает, что данные клиентов шифруются при передаче и на серверах iCloud. Это касается как приложения "Фото", так и содержимого, хранящегося в iCloud Drive. Поэтому Эндрю интересуется, в какой момент Apple сканирует контент. Ясно, что перед тем, как он будет зашифрован.

Apple также хранит ключи шифрования в облаке, в соответствии с Руководством [PDF] по юридическим процессам. Благодаря этому Apple даёт пользователям возможность сбросить пароль, а так же предоставляет правоохранительным органам данные в рамках повесток. Далее, юридические условия Apple для iCloud гласят следующее:

C. Удаление Материалов

Вы подтверждаете, что Apple не несет ответственности ни за какие Материалы, предоставляемые другими лицами, и не обязана проверять такие Материалы. Однако компания Apple оставляет за собой право в любое время определять, являются ли Материалы допустимыми и соответствуют ли они данному Соглашению, и может в любое время просмотреть, переместить, отклонить, изменить и/или удалить Материалы без предварительного уведомления и по своему усмотрению, если эти Материалы нарушают данное Соглашение или нежелательны в других отношениях.

Как Apple может определить допустимый ли контент или нет, если они не сканируют контент iCloud, даже несмотря на то, что он зашифрован? Или, как предполагает Эндрю, они выполняют все это сканирование во время загрузки / до шифрования.

Так же Эндрю говорит, что термин "допустимый" должен иметь чёткое определение, так как в 2012 году Apple удалила сценарий прикрепленный к электронному письму, потому что он содержал строчку описывающую персонажа, который смотрел рекламу порно-сайта на компьютере.

Важной деталью является то, что сквозное шифрование для контента iCloud включается только при включении двухфакторной аутентификации. Но это не относится к iCloud Drive или приложению "Фото".

Эндрю обратился к Apple за уточнениями, но пока не получил ответ.

Материал опубликован пользователем.
Нажмите кнопку «Написать», чтобы рассказать свою историю.

Написать
{ "author_name": "Злой Бобёр", "author_type": "self", "tags": ["\u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u043e\u0441\u0442\u044c","icloud","apple"], "comments": 18, "likes": 25, "favorites": 3, "is_advertisement": false, "subsite_label": "tech", "id": 100742, "is_wide": false, "is_ugc": true, "date": "Fri, 07 Jun 2019 14:18:07 +0300", "is_special": false }
Объявление на TJ
Спорт
Главные спортивные новости — ежедневные изменения в мире спорта, актуальная новостная повестка, интересные статьи. Из…
Подписаться
Подписан
Отписаться
0
{ "id": 100742, "author_id": 170432, "diff_limit": 1000, "urls": {"diff":"\/comments\/100742\/get","add":"\/comments\/100742\/add","edit":"\/comments\/edit","remove":"\/admin\/comments\/remove","pin":"\/admin\/comments\/pin","get4edit":"\/comments\/get4edit","complain":"\/comments\/complain","load_more":"\/comments\/loading\/100742"}, "attach_limit": 2, "max_comment_text_length": 5000, "subsite_id": 214344, "last_count_and_date": null }
18 комментариев
Популярные
По порядку
Написать комментарий...
7

Дедское порно

Ответить
3

Отличный материл, спасибо. Надеюсь редакция его запромоутит

Ответить
2

Он работает следующим образом: преобразовывает изображение в черно-белое, изменяет его размер, разбивает его на сетку, и ищет градиенты интенсивности или края. Данный алгоритм используется такими компаниями, как Facebook, Twitter, Google и другими.

Это ведь типичный перцептивный хеш-алгоритм, а не супер-технология майкрософта.

Ответить
1

Каким надо быть идиотом чтобы смотреть детское порно и не пользоваться Tails хотя бы?

Ответить
1

Каким идиотом надо быть чтобы смотреть детское порно *

Fixed

Ответить
3

Комментарий удален по просьбе пользователя

Ответить
2

Комментарий удален по просьбе пользователя

Ответить
1

Комментарий удален по просьбе пользователя

Ответить
0

Комментарий удален по просьбе пользователя

Ответить
0

Комментарий удален по просьбе пользователя

Ответить
0

Комментарий удален по просьбе пользователя

Ответить
0

Комментарий удален по просьбе пользователя

Ответить
3

Анимешником

Ответить
2

Комментарий удален по просьбе пользователя

Ответить
2

Ловите педофила!

Ответить
0

Кук собирает свою коллекцию порно. Старый шалун

Ответить
0

PhotoDNA специально используется для детской порнографии и не может быть использована для поиска другого контента.

Какой-то особый порно-код? Что мешает банить с его помощью неугодные мемы или фото Стрейзанд? Лапшу на уши вешают, по ходу.

Ответить
Обсуждаемое
Кино и сериалы
Фото: Полное воссоединение «Друзей»
Дженнифер Энистон больше не избегает соцсетей: она завела инстаграм и сделала селфи с экс-коллегами по сериалу.
Технологии
Pixel 4 с распознаванием лиц, беспроводные наушники и доступный ультрабук: что показали на презентации Google
Кратко о главном.
Технологии
Google представила смартфоны Pixel 4 и Pixel 4 XL с распознаванием лиц и датчиком управления жестами
Устройства также впервые получили двойную камеру.
Популярное за три дня
Интернет и мемы
«Эй, выпустите меня!»: ирландец перед смертью записал сообщение для своих похорон, чтобы рассмешить скорбящих близких
Крайне необычный способ поднять настроение людям, столкнувшимся с утратой.
Новости
В Красноярске начался народный сход после того, как двое знакомых избили человека до смерти и сняли это на видео
Местные жители считают, что родители одного из подозреваемых могут отгородить сына от правосудия.
Новости
На Change.org опубликовали петицию против Вечернего Мудозвона
Автор петиции, священник-эмигрант из России отец Сергий, просит итальянские власти не предоставлять гражданство Владимиру Соловьёву. По его мнению, Соловьёв рассчитывает получить итальянский паспорт.

Прямой эфир

[ { "id": 1, "label": "100%×150_Branding_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox_method": "createAdaptive", "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "ezfl" } } }, { "id": 2, "label": "1200х400", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "ezfn" } } }, { "id": 3, "label": "240х200 _ТГБ_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "i", "ps": "cndo", "p2": "fizc" } } }, { "id": 4, "label": "Article Branding", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "p1": "cfovy", "p2": "glug" } } }, { "id": 5, "label": "300x500_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "ezfk" } } }, { "id": 6, "disable": true, "label": "1180х250_Interpool_баннер над комментариями_Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "clmf", "p2": "ffyh" } } }, { "id": 7, "label": "Article Footer 100%_desktop_mobile", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byswn", "p2": "fjxb" } } }, { "id": 8, "label": "Fullscreen Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "fjoh" } } }, { "id": 9, "label": "Fullscreen Mobile", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "fjog" } } }, { "id": 10, "disable": true, "label": "Native Partner Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyb" } } }, { "id": 11, "disable": true, "label": "Native Partner Mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyc" } } }, { "id": 12, "label": "Кнопка в шапке", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "fdhx" } } }, { "id": 13, "label": "DM InPage Video PartnerCode", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox_method": "createAdaptive", "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "cndo", "p2": "flvn" } } }, { "id": 14, "label": "Yandex context video banner", "provider": "yandex", "yandex": { "block_id": "VI-223677-0", "render_to": "inpage_VI-223677-0-130073047", "adfox_url": "//ads.adfox.ru/228129/getCode?pp=h&ps=cndo&p2=fpjw&puid1=&puid2=&puid3=&puid4=&puid8=&puid9=&puid10=&puid21=&puid22=&puid31=&puid32=&puid33=&fmt=1&dl={REFERER}&pr=" } }, { "id": 15, "label": "Баннер в ленте на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byudv", "p2": "ftjf" } } }, { "id": 16, "label": "Кнопка в шапке мобайл", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "ccydt", "p2": "ftwx" } } }, { "id": 17, "label": "Stratum Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "fzvb" } } }, { "id": 18, "label": "Stratum Mobile", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "fzvc" } } }, { "id": 20, "label": "Кнопка в сайдбаре", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "p1": "chfbk", "p2": "gnwc" } } } ]