«Дискриминационный» алгоритм: история скандала в Нидерландах, где тысячи семей по ошибке обвинили в мошенничестве

Налоговая требовала вернуть по несколько десятков тысяч евро, но признала ошибку. Поздно: многие уже потеряли жильё, работу и брак.

Восемь лет налоговая служба Нидерландов пользовалась алгоритмами для вычисления мошенничества со льготами. Не всегда они работали корректно: тысячи семей ошибочно обвинили в обмане государства, заставив возвращать огромные для них деньги. Из-за этого многие лишились жилья и работы, а также развелись. К тому же алгоритмы безосновательно признавали мошенниками людей с двойным гражданством и мигрантов чаще, чем другие категории граждан.

Пострадало так много людей, что властям пришлось допросить ответственных госслужащих, обратить внимание на работу алгоритмов, выплатить компенсации пострадавшим, а правительству — даже уйти в отставку.

В 2013 году власти Нидерландов усилили борьбу с мошенничеством со льготами, в том числе по уходу за детьми. Это произошло после того, как жители Болгарии обманом получали единовременные пособия около восьми тысяч евро и их схему раскрыли, назвав процесс «делом болгар». Тогда в Нидерландах создали надзорную команду фасилитаторов (Combiteam Aanpak Facilitators или CAF), которая относилась к налоговому органу.

CAF выявляла случаи мошенничества при помощи программ, которые автоматически определяли, мог ли гражданин с пособием обмануть государство. Часто родителей, которые забывали поставить подпись или допустили ошибку в документах, обвиняли в «грубой халатности» или «умысле», лишая выплат.

За семь лет надзорное ведомство обвинило в мошенничестве 26 тысяч семей, получавших пособия по уходу за детьми. CAF возбудило 170 дел на профильные агентства и группы родителей: всего на девять тысяч человек.

После обвинений в мошенничестве семьям мгновенно прекращали выплачивать пособия и требовали единовременного возврата денег. Зачастую это были неподъёмные суммы для семей с низким доходом. К тому же, власти лишали обвиняемых родителей других пособий, к примеру, жилищных и на медицинское обслуживание.

Пострадавшие жаловались, что долгое время не могли обжаловать решение CAF, так что они обращались в суд, иногда по несколько лет дожидаясь восстановления пособий. Многим из них пришлось признавать себя банкротами. Ошибочные решения CAF испортили жизни семей: лишили жилья, работы и нанесли вред здоровью.

Случай местной жительницы по имени Сибель Коркоча — один из самых типичных и показательных. По словам женщины, пособие по уходу за тремя детьми сильно упрощало ей жизнь и позволяло не работать. В 2014 году налоговая служба сообщила, что Коркоча должна вернуть около 60 тысяч евро (около 3 миллионов рублей по среднегодовому курсу на тот момент) за четыре года «неправомерного» получения выплат. Она уволилась с должности техника по обслуживанию аптеки, чтобы ухаживать за детьми, так как оплачивать няню самостоятельно семья больше не могла.

Коркоча пожаловалась, что из-за сильных стрессов дважды попадала в автокатастрофу, а её здоровье ухудшилось. «[На встрече с премьер-министром] я услышала рассказы других семей, которые развелись или были вынуждены продать свои дома», — добавила женщина.

Мать троих детей Ронген (фамилия не указана) тоже обвинили в мошенничестве, требуя от неё вернуть 92 тысячи евро. Женщина рассказала, что 10 лет подвергалась «психологическому насилию» со стороны властей, из-за чего ей требовалась психиатрическая помощь. Она два года не работала, её чуть не выселили из квартиры, а кормить детей часто было нечем.

Один из обвинённых родителей заявил, что ошибка CAF привела его семью к разводу. По словам отца двоих детей Роджера Дерикса, от него потребовали вернуть 60 тысяч евро. В счёт долга у него вычли часть зарплаты, а также забрали автомобиль и технику. «Когда система отмечает, что вы преступник, [власти] вносят вас в секретный чёрный список», — добавил Дерикс.

Джанет Рамесар обвинили в мошенничестве и потребовали выплатить 40 тысяч евро. По словам женщины, она предоставила CAF доказательства своей невиновности, но служба утверждала, что не получала документы. Женщина заподозрила власти в расизме, так как в досье указали её этническую принадлежность, хотя она родилась в Нидерландах. Из-за обвинений в обмане государства её сына передали отцу, а она лишилась работы.

Недовольных родителей, обвинённых в мошенничестве, было так много, что в июле 2020 года власти Нидерландов приостановили работу CAF и начали расследование. В ноябре члены парламентской комиссии допросили 20 нынешних и бывших госслужащих, причастных к делу о пособиях.

В отчёте Парламентского комитета признаётся непрозрачной работа алгоритмов, а часть выводов ведомства — поспешной. «В некоторых случаях галочка „мошенничество“ была отмечена ещё до завершения расследования», — отметили нидерландские госсекретари.

До того, как власти начали использовать алгоритмы, принятие решений в отношении получателей льгот занимало гораздо больше времени и проводилось тщательнее, отметила доцент Университета Радбауд Марлиc ван Эк, исследующая автоматизированные решения в госучреждениях.

В отчёте заметили, что CAF принимал решения так быстро из-за необходимости эффективно бороться со льготными махинациями. «Под давлением каждая ошибка рассматривалась [CAF] как мошенничество, а родители оказались заклеймены как умышленные мошенники», — заявили в парламентской комиссии.

Издание Trouw выяснило, что в принятии решений налоговая инспекция использовала математический принцип Парето, предполагающий, что 80% подозреваемых виновны, а лишь 20% — нет.

Одна из главных проблем алгоритмов, которые используют налоговые и другие органы власти — отсутствие прозрачности, решила парламентская комиссия. «Если я хочу что-то узнать, мне будет трудно найти человека, который мог бы поговорить со мной об этом», — отметила ван Эк.

CAF принимал решения на основе «предвзятых» и «дискриминационных» алгоритмов, заявили в Счётной палате. Они учитывали национальность, наличие двойного гражданства и международные переезды при принятии решения. В органе добавили, что система, которая оказывает большое влияние на жителей Нидерландов, должна оцениваться критически, «но этого не произошло».

Полностью возлагать вину на технологии не следует, так как это может быть «трусливым способом снять вину с себя», считает политический советник группы по цифровым правам Bits of Freedom Надя Бенаисс. «Системы и алгоритмы созданы людьми и делают именно то, что им велят делать», — добавила советник.

Налоговую службу заподозрили не только в неэтичном использовании алгоритмов, но и в сокрытии некоторых данных во время судов с пострадавшими, отметили в Trouw. По данным издания, CAF несколько раз не предоставляла суду документы о том, что обвиняемые всё же имели право на выплаты. Журналисты предположили, что налоговая оттягивала признание ошибки, чтобы не создавать прецедент, по которому тысячи других семей могли бы обратиться за компенсацией.

Власти Нидерландов признали ошибку и выделили около 500 миллионов евро на выплату компенсаций родителям, которых обвиняли в мошенничестве с пособиями. Каждая семья получит около 30 тысяч евро.

15 января правительство во главе с премьер-министром Марком Рютте ушло в отставку. Премьер заявил, что не знал, что «налоговая инспекция незаконно выслеживала тысячи семей», но признал, что в «беспрецедентной несправедливости» виноват кабинет министров. «Невинные люди были привлечены к уголовной ответственности, а их жизни разрушены», — добавил Рютте. Лидер партии «Зелёных» Джесси Клавер отметил, что правительство приняло «единственно верное решение».

Несмотря на скандал и отставку, вскоре Рютте и министры могут вернуться. Партия экс-главы правительства, которую поддерживает около трети населения, имеет шансы победить на выборах в Палату представителей, которые пройдут 17 марта.

#политика #право #нидерланды