Что нового известно о Palantir: американской версии китайской системы по оценке людей и прогнозам преступлений

Дания приобрела программу для поиска террористов, в Новом Орлеане проект шесть лет испытывали без ведома властей, а случаи ошибочных арестов наблюдаемых подтвердились.

Последние несколько лет журналисты пытаются узнать как можно больше об одном из самых таинственных стартапов Кремниевой долины — Palantir. Этот сервис используют спецслужбы и полиция США для прогнозирования преступной и террористической угрозы конкретного человека или места. В 2017 году социолог Сара Брайн подробно отчиталась о деталях приложения, понаблюдав за его работой в поле 2,5 года. Например, она выяснила, что в американском сервисе, как и в китайском аналоге, есть система оценок и баллов для отдельных людей.

В марте 2018 года журналисты The Verge узнали, что Palantir тестировали в Новом Орлеане на протяжении шести лет без ведома властей и в обход конкурсов на госзакупку. 19 апреля издание Bloomberg выпустило подробную статью о финансовом положении сервиса, главных проблемах и планах руководства компании выйти на международную арену.

В 2013 году в Новом Орлеане (штат Луизиана) совершили больше 17 тысяч преступлений, включая 156 убийств, что поставило город на шестое место по уровню преступности в США. Часть вины за это окружной прокурор возложил на предположительных членов дилерских банд 3NG и the 110ers: им вменяли в вину 25 убийств, ряд покушений и серию разбойных нападений. После приговора Управление по контролю за оборотом алкогольных напитков, табачных изделий, огнестрельного оружия и взрывчатых веществ совместно с ФБР развернули масштабное расследование, приведшее к задержанию нескольких членов группировок 3NG и the 39ers (не связана с the 110ers).

На суде против обвиняемых предоставили более 60 тысяч документов показаний свидетелей и анонимных информаторов, а также описание косвенных улик. На процессе не упоминалось о сотрудничестве полиции с компанией Palantir, однако оно сыграло важную роль в деле. Фирма под руководством инвестора и одного из создателей PayPal Питера Тиля предоставила полиции программное обеспечение для отслеживания связей горожан с установленными членами банд. Следователи проанализировали уголовное прошлое и активность объектов в социальных сетях, а также спрогнозировали вероятность совершения преступлений ими или в отношении них.

В США технологии отслеживания и прогнозирования деятельности потенциальных преступников уже долгие годы вызывают споры об этических и моральных правах. Однако полиции Нового Орлеана удавалось скрывать сотрудничество с Palantir (основана на деньги венчурного фонда ФБР в 2004 году) с 2012 по 2018 годы, когда о тайном договоре рассказало издание The Verge. Как выяснили журналисты, полиция города оформила отношения с компанией как одно из направлений благотворительной программы по развитию города, за которую отвечал мэр Митч Лэндрю. Благодаря этому стартапу не пришлось участвовать в программе госзакупок.

Никто из ключевых членов городского совета не знал о схеме мэра и Palantir. Более того, они не подозревали, что компания использовала Новый Орлеан как полигон для демонстрации своих возможностей более крупным силовым структурам. За более чем пяти лет с начала сотрудничества Palantir запатентовала как минимум одну систему прогнозирования преступлений и продала схожее программное обеспечение иностранным разведывательным агентствам для отслеживания склонности граждан к терроризму.

«Они создают список целей, но мы не пойдём против Аль-Каиды (террористическая группировка — прим. TJ) в Сирии», — говорит бывший полицейский, который видел в действии работу Palantir. С момента запуска программы (по различным данным это произошло в 2011 или 2012 году) её эффективность тестировали в частных школах, правительственных учреждениях или в полицейских отделениях, но так как авторы никогда не предоставляли информацию о программе общественности, многие вопросы о принципах её работы, рисках и чрезмерном использовании остаются без ответа.

Palantir основали бизнесмены Алекс Карп и Питер Тиль в 2004 году. За счёт госконтрактов с Пентагоном, спецслужбами и иностранными секретными службами компания долгое время считалась одним из самых прибыльных стартапов в Кремниевой долине. В 2009 году армия США использовала Palantir для определения предполагаемых точек со взрывчатыми веществами в Афганистане и Ираке, однако в целом о работе компании и её партнёрах почти ничего не известно.

Одна из возможных причин такой скрытности — угроза общественного мнения. Palantir далеко не единственное приложение по прогнозированию преступной активности и её предотвращению. Алгоритмы таких сервисов, насколько можно судить по открытым источникам, похожи: они собирают данные о местоположении человека, криминальном прошлом и активности в социальных сетях, а затем формируют прогноз об объекте или месте, где вероятнее всего произойдёт преступление. Самый известный аналог Palantir — сервис PredPol, запустившийся в 2012 году.

Чем больше городские власти и компании начинали тестировать приложение, тем быстрее рос уровень сомнений в его эффективности. Исследование 2016 года показало, что алгоритмы PredPol «предвзяты» относительно темнокожих и неверно предсказывают криминальную активность.

Встреча мэра Нового Орлеана с Алексом Карпом прошла в офисе чиновника. Собеседники сошлись во мнении о тяжёлой ситуации с преступностью в городе и договорились о сотрудничестве на бесплатной основе. Как пояснил сооснователь Palantir, в компании решили «заняться благотворительностью» и предложить помощь в разрешении ситуации.

Как утверждает видный общественный деятель Джеймс Карвилл, знакомый с устным соглашением сторон, сотрудничество сыграло большую роль в снижении числа нарушений в городе. «Мы смогли, не потратив ни цента из городского бюджета, собирать информацию, прогнозировать правонарушения и вмешиваться в ситуации, рискующие перерасти в преступления. За период работы проекта уровень преступности снизился почти на треть», — говорит Карвилл.

В 2013 году число убийств в Новом Орлеане действительно снизилось до 156 (по сравнению со 193 в 2012 году), однако общее число преступлений выросло примерно на тысячу. При этом в 2014 году число преступлений увеличилось уже до 20 тысяч (по сравнению с 17 тысячами в 2013 году). На этом фоне заявление Карвилла кажется как минимум неоднозначным, так как открытых исследований о влиянии Palantir на изменения статистики преступлений не проводилось. Более того, уровень преступности в Новом Орлеане постепенно снижается с 1990-х годов, когда сервиса ещё не существовало.

Помимо Нового Орлеана, Palantir предоставляла услуги по сбору и анализу информации полицейскому департаменту Лос-Анджелеса, хотя соглашение об этом заключили не с самой полицией, а с Ассоциацией полицейских Лос-Анджелеса. Схожую схему провели с нью-йорским отделением полиции — договор о сотрудничестве не внесли в городской реестр и не утвердили в городском совете. Соглашение между сторонами стало известно только после публикации доказательств изданием BuzzFeed.

«Выглядит так, будто Новый Орлеан создаёт собственную версию Агентства национальной безопасности (АНБ), чтобы постоянно следить за жизнью граждан», — говорит директор луизианского отделения Центра юстиции Джим Крейг, имея в виду сотрудничество мэра с Palantir. Договор Palantir с мэром Нового Орлеана должен был истечь 21 февраля 2018 года, если только его не продлили. Информации об этом нет.

Бета-версия системы, применяемая в Новом Орлеане, анализировала социальные сети, общие места, автомобили, адреса, оружие или любые другие детали, способные выявить преступные наклонности объекта. Всё это обрабатывал алгоритм, после чего следователь изучал информацию и на основе связей наблюдаемого с жертвами или преступниками определял вероятность того, что объект нарушит закон или же станет потерпевшим.

Помимо открытых источников, данные в Palantir приходят из криминалистических баз по преступным группировкам, судебным приговорам, условно-досрочным освобождениям, телефонным звонкам из тюрем, из центральной системы судопроизводства и из хранилища дел в полиции, где задокументированы диалоги полицейских со всеми гражданами. Схожий принцип коллекционирования данных для анализа поведения людей использует китайская «социальная система».

После формирования списка потенциальных жертв и нарушителей полиция Нового Орлеана использовала его в программе «прекращения огня» — в ходе неё правоохранительные органы сообщают частным лицам с уголовным прошлым о том, что в случае рецидива им грозит куда более строгое наказание. Если наблюдаемые соглашаются сотрудничать, им предлагают профессиональное обучение, образование, рабочие вакансии и услуги здравоохранения. Эта программа реализуется за счёт проекта «Новый Орлеан для жизни» (NOLA For Life) под руководством мэра города.

Как указано в официальных публикациях Palantir, в компании анализируют социальные сети всех погибших и пострадавших в ходе перестрелок в Новом Орлеане с 2011 по 2013 годы. Благодаря этому методу полиция сформировала список из 3900 человек, подверженных наибольшему риску вооружённого насилия из-за связей с бывшими стрелками или потерпевшими. Таким образом, говорили представители сервиса, они могут определить 30-40% будущих жертв стрельбы.

Из 308 человек, принявших участие в программе «Новый Орлеан для жизни» с октября 2012 по 2017 годы, семеро получили профессиональное образование а девять устроились на работу, но ни один не получил диплом в университете или аттестат об окончании среднего образования. 32 участника проекта какое-то время были трудоустроены, 50 задерживала полиция, а двое умерли.

Количество встреч с потенциальными преступниками сокращалось в течение нескольких лет — с 2012 по 2014 годы прошли восемь групповых занятий, а за следующие три года только три встречи. Несколько собеседников The Verge, знакомых с ситуацией, с сомнением отнеслись к эффективности программы и пользе Palantir в её реализации.

В 2013 году сотрудники отдела продаж Palantir предлагали полиции Чикаго приобрести программное обеспечение, проверенное в Новом Орлеане, за три миллиона долларов. Полицейское отделение города намеревалось получить грант от Министерства внутренней безопасности для покупки сервиса, однако этого не произошло. Это не помешало Palantir три года спустя заключить с полицией и разведкой Дании контракт на семь лет по продаже и поставке программ для выявления потенциальных террористов. По данным местных СМИ, сумма контракта составила от 14 до 41 миллиона долларов.

В 2015 году стартап Питера Тиля оценили в 20 миллиардов долларов, но компания никогда не публиковала отчётов о прибыли. Palantir работает как поставщик программного обеспечения и консультаций по безопасности — из 2000 инженеров компании около половины работает непосредственно в клиентских точках. Среди клиентов организации числились компании Hershey’s, Coca-Cola, Nasdaq, American Express и Home Depot. Все они в итоге отказались от услуг Palantir.

Ситуацию может изменить новая разработка фирмы Foundry, нацеленная на отслеживание использования и работоспособности деталей самолёта. Среди пользователей программного обеспечения числится крупнейший авиапроизводитель Airbus SE. Помимо этого Palantir давно сотрудничает с Merck KGaA — фармацевтический гигант использует Foundry при разработке новых лекарств и в логистике.

В апрельской статье об устройстве Palantir журналисты Bloomberg говорят о сервисе как о шпионском инструменте, который собирает и анализирует информацию из различных источников. В этом числе финансовые документы компаний, записи телефонных переговоров и данные о перелётах. Как пишет издание, сервис применяли для выслеживания и убийства террориста Усамы бен Ладена, поиска фальсификаций в медицинских документах и слежки за некоторыми иммигрантами.

Из расследования журналистов следует, что благодаря Palantir бывший агент секретной службы и судебный эксперт одного из крупнейших банковских холдингов JPMorgan Chase Питер Кавичья (Peter Cavicchia) получил административный доступ к целому ряду баз данных корпоративной безопасности. Ранее для этого требовались отдельные разрешения и конкретное обоснование, однако благодаря инженерам Palantir, нанятыми банком, Кавичья тайно получил полный доступ к корпоративным документам.

О схеме сотрудника JPMorgan стало известно лишь благодаря расследованию The New York Times в 2013 году. В ходе внутреннего разбирательства руководство банка решило не направлять дело против Кавичья в суд, желая обойтись без общественного внимания, и позволило ему добровольно уйти с поста. После этого организация полностью отказалась от использования Palantir — по словам бывшего работника банка, сервис не оправдал ожидания руководства. Неизвестно, как именно Кавичья использовал приложение в своих целях и как распорядился украденной информацией.

В марте 2018 года бывший компьютерный инженер аналитической организации Cambridge Analytica, попавшей в центр скандала из-за утечки данных пользователей Фейсбука, заявил перед британским парламентом о связи Palantir с фирмой. Из показаний следует, что во время президентской кампании 2016 года работник компании Питера Тиля помогал Cambridge Analytica использовать данные больше 87 миллионов пользователей Фейсбука для формирования профиля избирателей.

В Palantir отвергли причастность к скандалу, заявив, что не работают по политическим темам. Сотрудник организации пояснил, что помогал Cambridge Analytica в свободное от основной занятости время.

В 2011 году Тиль заявлял, что лучший способ предотвратить атаку, не становясь полицейским государством, это дать властям лучшие инструменты слежки, параллельно с этим контролируя границы их использования для избежания злоупотребления.

За почти 20 лет в технологической сфере Тиль нажил солидные связи в крупнейших компаниях Кремниевой долины, включая Facebook, YouTube, Airbnb, Linkedin и Tesla. Он вложил в президентскую кампанию Дональда Трампа 1,25 миллиона долларов и лично знаком как с самим политиком (порой они вместе обедали), так и с его прямыми назначенцами в Белом доме.

В 2010 году представители Palantir и двое оборонных подрядчиков предлагали адвокатам Торговой палаты США дискредитировать политических активистов и либеральную группу с помощью ботов в соцсетях и фейковых новостей. Это следует из переписки, выложенной в открытый доступ группой анонимных хакеров. После общественного резонанса в пресс-службе компании дали такой же ответ, что и на ситуацию с Cambridge Analytica — предложение исходило исключительно от сотрудника Palantir.

В 2016 году 20-летний житель Лос-Анджелеса Мануэль Риос (Manuel Rios), который вырос среди уличных банд и провёл несколько лет в тюрьме за хранение наркотиков и незаконное владение оружим, сидел с другом на парковке. Неожиданно к ним подъехала полицейская машина: друг Риоса убежал, а он остался. «Почему я должен убегать? Я не член банды», — объяснял позже калифорниец. Подошедшие полицейские надели на него наручники, сфотографировали на камеру телефона и заявили: «Добро пожаловать в базу данных банд».

С тех пор полицейские останавливали Риоса больше десятка раз и говорили, что если ему это не нравится, то тогда ему следует уехать. Американец не хочет покидать родной город, где теперь воспитывает дочь вместе с девушкой. «Они говорят, что ты в системе, и что ты не сможешь соврать им», — поясняет Риос. Общественный деятель Мариелла Саба (Mariella Saba), которая помогла американцу отказаться от употребления наркотиков, негативно относится к использованию Palantir полицейскими. По её словам, когда людей постоянно связывают с преступными группировками, это подталкивает их действительно присоединиться к бандам.

В марте 2017 года в Чикаго задержали двух иммигрантов для депортации на основе информации из базы данных о преступных группировках. Непонятно, как именно Иммиграционная и таможенная полиция США узнала о предполагаемой причастности обвиняемых к бандам, но журналисты Bloomberg допускают, что благодаря Palantir. На это указывает и то, что компания заключила с ведомством договор на 41 миллион долларов для создания «исследовательской» системы.

Один из задержанных, 31-летний механик Вильмер Каталан-Рамирес (Wilmer Catalan-Ramirez) получил тяжёлые ранения при задержании шестью агентами Иммиграционной и таможенной полиции. У оперативников не было ордера на арест, но это не помешало им войти в дом подозреваемого, который как минимум два раза попадал в базу по преступным группировкам.

Следующие девять месяцев Каталан-Рамирес провёл в федеральном заключении, пока городское управление Чикаго не сняло обвинения с обоих подозреваемых и не разрешило остаться в США. «Эти дела прекрасно иллюстрируют работу базы данных, заполненной неподтверждённой информацией, которая часто оказывается ложной и рушит человеческие жизни», — говорит адвокат задержанного Ванесса дель Валле (Vanessa del Valle).

#кибербезопасность #разборы #технологии