«Механизмы поощрения и наказания»: как в Китае устроена экспериментальная система оценок граждан и компаний

Главные вопросы и ответы о программе, которая пока лишь тестируется, но уже считается новым доказательством китайского тоталитаризма.

С мая 2018 года китайских граждан с низким «социальным рейтингом» перестанут пускать на самолёты и в поезда. Это решение напрямую связано с экспериментальной системой рейтингов, которую власти развивают с 2014 года. По задумке, она будет оценивать всех граждан на основе их поведения, финансового положения, покупок и нарушений. Чем ниже рейтинг, тем сложнее человеку пользоваться муниципальными сервисами.

По словам китайских властей, система, которая подвергается критике западных правозащитников, увеличит экономическую грамотность граждан и поможет в борьбе с правонарушителями. Ради этого компартия договорилась с технологическими гигантами о создании первых версий «кредитно-рейтинговых» программ и использует все доступные инструменты для сбора информации. Власти отдельных регионов уже испытывают разработку «в поле», однако всё ещё непонятно, как именно планируют наделить личным рейтингом больше миллиарда жителей Китая.

В 2010 году власти провинции Цзянсу запустили проект, который стал основой для будущей «кредитно-социальной системы» (SCS), также известной как «система социального доверия». Граждане региона (количество не уточняется, всего там проживает больше 78 миллионов человек) получили условную тысячу баллов для своего рейтинга.

За хорошее поведение (своевременная оплата по счетам, отсутствие правонарушений и трудолюбие на работе) испытуемых награждали дополнительными баллами, а за мелкие нарушения, например, на дороге, снимали 20 баллов. Езда в пьяном виде или дача взятки оценивалась штрафом в 50 баллов. Эти же санкции налагались за любое действие, мешающее работе коммунистической партии КНР.

На основе рейтингов авторы сформировали четыре категории: за оценку «А», то есть очень хорошую, власти выделяли человеку дополнительные деньги на открытие бизнеса или облегчали подачу заявки на работу чиновником или в армию. Людей наименьшей категории, «D», лишали работы или социальной помощи — например, они не могли воспользоваться общественным транспортом.

После окончания эксперимента власти признали разделение на категории неуместным и избавились от него, но продолжили собирать информацию о гражданах. Основными источниками информации стали государственные ведомства, полицейская база, данные частных компаний и интернет-сервисов. Многие крупные организации помогают в развитии проекта, который, как считает компартия, не только поможет в победе над коррупцией и мошенничеством, но и создаст в стране «атмосферу доверия».

Впервые идею создания «социальной системы» выдвинул Госсовет КНР в 2007 году. Изначальный проект должен был обрабатывать данные о клиенте банка и определять его платёжеспособность по кредитам или другим займам. Подобные системы существуют во всех странах с развитой экономикой, в том числе в США.

В 2013 году председателя КНР Ху Цзиньтао сменил нынешний правитель Си Цзиньпин. В июне 2014 года Госсовет опубликовал переработанный проект создания системы SCS, запуск которой запланировали на 2020 год. По плану, к этому году каждая компания и гражданин Китая (население страны составляет 1, 379 миллиарда человек) будут оцениваться этой системой и получать личный рейтинг.

Китайские власти пояснили, что масштабный сбор информации позволит им сформировать более полную кредитную историю о гражданах страны и таким образом привлечь интерес к банкам. На тот момент Народный банк Китая, единственный с официальной кредитной системой, обслуживал по этому направлению 300 миллионов человек или 25% населения, но почти у всех не было никакой кредитной истории. Для сравнения — в США около 89% взрослых граждан имеют кредитную историю и рейтинг платежёспособности. Как объяснила компартия, ежегодно из-за недоверия граждан к банкам экономика страны теряет 95 миллиардов долларов.

Судя по всему, за создание и развитие SCS отвечает Государственный (Национальный) комитет по развитию и реформам КНР. Именно он публикует отчёты о развитии программы. Точный автор инициативы неизвестен, но по поводу неё лично высказывался глава государства Си Цзиньпин.

Сразу после анонса реформы власти договорились о создании системы SCS с 10 компаниями, включая гигантов Alibaba и Tencent. В 2015 году обе компании создали практически идентичные приложения, которые с разрешения пользователей (они могут отказаться от выдачи данных) начали собирать о них всю доступную информацию.

Tencent использует для сбора данных два своих крупнейших мессенджера — QQ и WeChat (больше 800 миллионов и больше миллиарда пользователей). Alibaba создала приложение Sesame Credit, которое получает информацию о покупках, оплате счётов и любимых местах пользователей через платёжную систему Alipay (больше 520 миллионов пользователей).

Дополнительно оба приложения получают информацию о действиях человека из муниципальных учреждений, полицейских участков, исследовательских центров и частных компаний. На основе этой базы выстраивается рейтинг пользователя: чем он выше, тем больше бонусов получает человек.

За низкое или среднее количество баллов (высоким показателем считается больше 800 из 950 баллов) Sesame Credit предложит пользователю лишь небольшие бонусы: например, дополнительные подарки в приложении для знакомств Baihe (требует паспортные данные при регистрации). При этом программа подскажет, сколько нужно очков для других бонусов: скидки для бронирования номера в престижном отеле, возможности взять машину в аренду без депозита или оформить кредит по более низкой ставке.

С ростом числа частных партнёров Sesame Credit увеличивается количество бонусов внутри приложения и, соответственно, число пользователей системы. Количество баллов в Sesame Credit также отражается в других партнёрских приложениях: в Baihe это помогает оказаться выше в списках и быстрее найти пару.

Подробности работы алгоритмов Sesame Credit не раскрываются, но рейтинг формируется на основе четырёх пунктов, успехи по каждому пользователь может посмотреть в отдельном меню.

Неизвестно, какую роль играет Sesame Credit в создании государственной «кредитно-социальной системы» и играет ли вообще.

Sesame Credit сотрудничает с Верховным судом КНР и предоставляет данные пользователей, подозреваемых следствием. В 2015 году эта информация привела к осуждению 5300 человек — им запретили бронировать номера в дорогих отелях и снизили уровень кредитного доверия в банках. Летом 2017 года данные Sesame Credit привели к осуждению больше 7 миллионов человек. Большая часть подсудимых лишилась возможности летать на самолётах, а около 3 миллионов человек вдобавок к этому на год потеряли право приобретать билеты на скоростные поезда.

До конца непонятно, как будет работать полномасштабная рейтинговая система. На основании отчётов властей, статей государственных СМИ и интервью с авторами проекта издание The Wall Street Journal определило частичную методику работы системы. Она будет собирать кредитную историю, статистику по банковским счетам, чеки покупок, список любимых мест и отчёты о правонарушениях, а также следить за активностью в интернете и взаимодействиями гражданина с другими пользователями.

На основе этих данных сформируется рейтинг, за который пользователь получит или лишится доступа к муниципальным и частным услугам. К примеру:

К 2018 году экспериментальная версия «кредитно-социальной системы» работает примерно в 30 городах Китая, передовым считается городской уезд Жунчэн в провинции Шаньдун. Информация об активности граждан приходит из 142 источников, основная часть из которых — правительственные и частные учреждения, работающие в интернете.

Как писали государственные СМИ, всех жителей Жунчэн (670 тысяч) наделили стартовым рейтингом в 1000 баллов. Если рейтинг человека превысит изначальную цифру, он считается образцовым гражданином: ему проще взять кредит в банке (до 31 тысячи долларов без залога и поручителей), оформить прокат машины или лечиться в больничном стационаре.

Обратная ситуация для тех, у кого рейтинг ниже 600 баллов — человека могут внести в чёрный список. Ему будет трудно взять кредит, купить билет на скоростные поезда или самолёт, арендовать машину или жильё. В последнем случае арендодатель может просто побояться вести дела с человеком с низким рейтингом. Для восстановления репутации нужно разобраться с просроченными выплатами и правонарушениями — в пробной версии системы это две основные причины понижения статуса.

Компании в Жунчэне также участвуют в экспериментальной программе. Их рейтинг доверия повышается, если у них нет проблем с документацией, они успешно прошли инспекции, сдали вовремя финансовую отчётность и на руководство не жалуются сотрудники. За это фирмы получают льготы — более низкий уровень налогообложения, им проще получить кредит в банке или обратиться в государственное ведомство. Для организаций с низким рейтингом обратная ситуация: повышения налогов, ограничение инвестиций и необходимость брать разрешения у властей на продажу ценных бумаг.

В 2016 году журналисты WSJ опросили китайских граждан и выяснили, что многие даже не слышали о «кредитно-социальной системе», но согласны, что власти должны делать больше для повышения морали и приличия в обществе. Председатель КНР Си Цзиньпин считает, что рейтинговая система как раз поможет создать в стране «атмосферу доверия». Однако внутри правительства нет полной уверенности, что систему получится запустить в срок. Государственные специалисты полагают, что процесс может затянуться из-за больших сложностей в обработке данных и защите системы от злоумышленников.

Хотя создание SCS анонсировали ещё в 2014 году, власти почти не разглашают детали разработки. По замыслу правительства, рейтинг всех граждан привяжут к паспортам, но непонятно, как будут проверять свой рейтинг люди без интернета в дальних регионах, а также что будет, если кто-то откажется участвовать в проекте. Помимо этого непонятно, как система коснется людей в Китае без гражданства.

До конца неизвестны все факторы формирования рейтинга: как баллы в разных категориях будут сочетаться, будут ли политические взгляды человека или его покупки влиять на количество получаемых или отнимаемых очков.

Также неясно, как будет работать алгоритм: сможет ли он быстро и эффектно обрабатывать данные более чем миллиарда пользователей. Помимо текстовых данных власти планируют загружать в систему фото, аудио и видео-файлы с камер видеонаблюдения. В 2018 году их количество насчитывает 170 миллионов, а к 2020 году компартия планирует добавить ещё 450 миллионов камер. Неизвестно, сколько из них обладают системой распознавания лиц, но информация даже с четверти всех камер многократно увеличит нагрузку на алгоритм и повысит риск ошибки.

Ближайший аналог китайской SCS — американский стартап Palantir. Эта программа появилась в 2011 году и популярна у полиции и спецслужб: система анализирует информацию об автомобильных номерах, родственниках, правонарушениях подозреваемых и простых жителей. Помимо этого ФБР и ЦРУ используют сервис для поиска особо опасных преступников и террористов.

Информация поступает в сервис из местных муниципальных учреждений, а также от полицейских и патрульных. Они указывают информацию о неблагополучных районах, записывают подозрительных жителей и указывают, как много людей в конкретной части города носит оружие. Как пишут СМИ, система выдаёт следователям удобную и подробную статистику по району или подозреваемому.

Компанию основал Питер Тиль, с начала 2000-х он сотрудничает со спецслужбами и считается одним из информационных советников Дональда Трампа. В феврале 2018 года СМИ рассказали, что Palantir тайно внедрили в полицейскую систему Нового Орлеана без ведома местного правительства.

Несмотря на эффективность программы, она популярна у полицейских лишь в крупных штатах. Основная причина — высокие затраты на технологию. С 2009 по 2017 годы полиция Лос-Анджелеса потратила на использование Palantir 50 миллионов долларов. При этом система обрабатывает в десятки раз меньше данных, чем должна будет китайская рейтинговая разработка. Непонятно, откуда компартия возьмёт деньги на финансирование такой программы, об этом власти не говорят.

Неясно, где в системе будет храниться частная информация граждан, необходимая для формирования рейтинга. Американская исследовательская фирма по сетевой безопасности FireEye считает, что китайская программа с данными о миллиарде людей станет крупной добычей для злоумышленников. Если они получат доступ к паспортным и личным данным, то могут воспользоваться ими для кражи денег с банковских карт или продать базу на чёрном рынке.

Непонятно, как система будет защищать рейтинги людей — к примеру, что помешает злоумышленнику изменить количество баллов у человека или компании. Правозащитников беспокоит, что принимать решения на основе рейтинга человека будет не общество или независимая комиссия, а исключительно государство.

Председатель Национальной комиссии развития и реформ Китая Лянь Вэйлян (Lian Weiliang) утверждал, что одна из ключевых целей SCS — борьба с коррупцией. По его мнению, система также поможет отслеживать нарушения в частных компаниях, например, при продаже некачественной еды, и ловить мошенников. Компартия считает, что разработка поможет эффективно вычислять террористов и противников государственного строя.

«Китай движется к тоталитарному обществу, где власти контролируют и влияют на частную жизнь граждан. Это как Большой Брат, владеющий всей информацией о вас, и способный навредить вам как того захочет», — говорил китайский писатель Мужун Сюэцунь о «кредитно-социальной системе» .

Схожей позиции придерживаются западные правозащитники и журналисты, сравнивая разработку с устройством из сериала «Чёрное зеркало» или из романа Джорджа Оруэлла «1984». В своей книге «Кому ты можешь доверять» о влиянии социальных сетей и интернета на доверие людей Рэйчел Ботсман рассказывает о китайской системе с негативом. По мнению исследователя, власти будут пользоваться разработкой для слежки за людьми и борьбы с инакомыслием.

Схожесть всех подобных заявлений в том, что авторы подают разработку как свершившийся факт. На деле мотивы властей по созданию системы до конца непонятны, а перспективы запуска программы в 2020 году туманны. Даже если это произойдет в срок, то есть вероятность, что её продолжат постепенно раскатывать по регионам, а тотальное использование придётся отложить.

#разборы #китай #кибербезопасность #цензура