Летом 2018 года семья Жао из города Вэньчжоу на востоке Китая готовилась праздновать поступление сына в престижный пекинский институт. Молодой человек успешно сдал китайский аналог ЕГЭ, успешно прошел конкурс и был уверен в своем зачислении. Однако из вуза сообщили, что хотя по экзаменационным результатам Жао один из лучших, принять его невозможно. Причина — плохой «социальный рейтинг» его отца.
Как выяснилось, когда-то Жао-старший был поручителем по кредиту. Заемщик кредит выплачивать перестал, банк стал искать поручителей. В конце концов дело дошло до суда, который признал Жао должником. Согласно постановлению Верховного народного суда КНР, местные суды имеют право создавать черный список должников и ограничивать их траты на «люксовое» потребление. В том числе на «авиапутешествия, покупку дорогих автомобилей и оплату обучения детей в дорогих учебных заведениях».
История закончилась благополучно: отец срочно оплатил долги, уведомил суд, тот исключил его из черного списка, и сын был принят в институт. Вероятно, успешно учится и сейчас.
Местные СМИ, обсуждая этот случай, задавались вопросом, насколько справедливо заставлять сыновей отвечать за грехи отцов. Мнения, как это обычно бывает, разделились, но все сошлись в одном: как бы ни двусмысленно звучала эта история, решение не пускать сына на учебу оказалось результативным. Долги, которые два года ждали урегулирования, были оплачены.
Этот кейс не столько про финансы и собственно кредитную историю индивидуума, сколько про строящуюся в Китае систему социального рейтинга, попытку государства сконструировать общество по конфуцианским канонам.
Не сметь, не мочь, не хотеть
Несколько тысячелетий назад Цзы Гун спросил Конфуция, что важнее в управлении государством — доверие (信), пища (食) или армия (兵). Конфуций ответил, что, если выбирать что-то одно, важнее всего доверие. В других максимах Конфуций также сравнивал человека, которому нельзя доверять, с колесницей без оси, в которой нельзя ездить.
Присутствующий в высказываниях Конфуция иероглиф 信 (синь) и связанные с ним смысловые оттенки «веры», «доверия», даже «надежности» — ключевые для понимания действующей в Китае системы социального рейтинга (社会信用, шэхуэй синьюн). Калька с англоязычного дословного перевода наименования этой системы как некоего «социального кредита» (social credit) относительно узка: созданная и развивающаяся в Китае система не только и не столько про финансовую платежеспособность субъекта (человека или предприятия), а скорее про его социальный статус, «достойность» в социальном смысле, оценку обществом. Безусловно, финансовая кредитоспособность — важнейшая часть этого рейтинга. Но не менее важны «социальная репутация, добросовестность» (诚信, чэнсинь) и взаимное доверие, способность выполнять свои обязательства, быть социально ответственным и честным.
Описывая идеальное общество без коррупции, китайские эксперты говорят, что сначала должна быть создана система, при которой чиновники не смеют быть коррумпированными, затем система, в которой они не могут быть коррумпированными, затем система, в которой они не хотят быть коррумпированными. Примерно так же должна эволюционировать и система социального рейтинга: «не сметь» — предотвращать недостойное поведение всех общественных субъектов через наказание, «не мочь» — обеспечивать невозможность плохого поведения, «не хотеть» — внедрять в общество морально-этические императивы, благодаря которым люди не захотят нарушать правила. В представлении китайских чиновников, система, работающая на основе искусственного интеллекта, в идеале должна управлять обществом автономно, обеспечивая эффективность, моральность и совместное процветание.
Система социального рейтинга вполне открыто описывается в документах и имеет «дорожную карту» реализации. Механизмы и цели создания системы социального рейтинга раскрываются прежде всего в принятом и опубликованном в июне 2014 года постановлении Госсовета КНР. Периодом реализации проекта государство видит 2014–2020 годы (но в реальности, думается, его действие будет продлено вглубь третьего десятилетия XXI века). Многостраничный документ, насыщенный отсылками к идеологии строительства «социализма с китайской спецификой», тем не менее показывает, каким в Поднебесной видят «гармоничное общество».
Цель системы — укрепление «репутации, добросовестности правительства, коммерческой деятельности, общества, доверия к юридической системе». Перечисляются и социальные беды, которые проистекают от недостатка взаимного доверия граждан. Среди них как вполне конкретные финансово-экономические проблемы (уклонение от налогов, производство поддельных товаров, небезопасных продуктов и лекарств, финансовые пирамиды), так и критический взгляд на общество (отсутствие системы поощрений и наказаний за обман доверия, отсутствие общественной позиции, которая ценила бы выполнение обещаний, академические нарушения в виде плагиата и обмана).
Отсюда вытекают и методы исправления ситуации: прежде всего это сбор и агрегирование информации о субъекте, стимулирование социально-экономическими методами его достойного поведения и наказание недостойного, использование усовершенствованного механизма кредитного скоринга (за счет включения в него данных об общественном поведении) для оценки любых сделок, совершенствование морально-этической атмосферы в обществе.
В географическом и отраслевом разрезе система социального рейтинга представляет собой совокупность баз данных о физических и юридических лицах, которые поддерживаются и развиваются местными властями (городами) и отраслевыми ведомствами. При разработке правил управления этими информационными системами за основу берется описанный выше документ центрального правительства; в зависимости от региона тактические цели «управления обществом» варьируются, стратегическая цель — создание атмосферы доверия и гармонии в обществе — неизменна.
![Камеры слежения в Шанхае. Полиция в течение двух секунд может установить местонахождение, проверить криминальную историю, получить данные любого подозреваемого, пойманного в объектив видеокамеры 62-02.jpg ТАСС](/media/photologue/photos/543399/543458/cache/62-02_600_500_nocrop.jpg)
Тотальный сбор информации
Сбор и агрегирование информации — важнейшая составная часть системы. Документ предписывает создание и взаимную интеграцию информационных систем (баз данных) по регионам, по ведомственной принадлежности и на общенациональном уровне. В общую систему социального рейтинга попадут данные из самых разнообразных сфер: медицины, электронной торговли, спорта, госзакупок и, естественно, из органов безопасности. Субъектами выступают отнюдь не только физические лица, но и государственные органы, коммерческие и некоммерческие организации.
В этом смысле система социального рейтинга объединяет две составляющие: собственно кредитную историю и бэкграунд по части взаимоотношения с законом (список административных и уголовных правонарушений) и обществом. В отношении частных лиц база данных во многом представляет собой оцифрованную в соответствии с требованиями времени, но давно существующую в КНР совокупность «личных дел» граждан.
Согласно принятой еще с первых лет существования КНР практике личные дела граждан (папки-досье) ведутся государственными ведомствами примерно со школы. В досье вносится вся информация о человеке: образование и оценки, семейное положение, отзывы из организаций (школы, вуза, работодателя), информация о политических взглядах, отношении к религии и проч. Личное дело следует за гражданином и хранится либо на предприятии (прежде всего государственном) и в ведомстве, либо в специализированных учреждениях. Информация в личном деле гражданина доступна его начальниками и чиновникам из компетентных ведомств.
После перевода объективных и характеризующих данных о человеке в цифровую форму и создания объемных полицейских баз данных стало возможным «тегировать» человека. Осенью 2018 года в китайских социальных сетях появился пост человека, называющего себя сотрудником системы общественной безопасности, в котором он подробно рассказал, как полицейские базы данных группируют граждан. Помимо очевидных групп «террористов и сочувствующих им», «склонных к насилию», «членов банд», «связанных с наркоторговлей» полицейские выносят в отдельные группы диссидентов, сторонников независимости Тибета и Синьцзяна, жертв и организаторов финансовых пирамид, отставных военных и т. п. Внимание органов привлекают также «лица, придерживающиеся экстремальных взглядов», лица, чем-либо недовольные в стране и где-либо выражавшие свое мнение, принимавшие участие в публичных выступлениях, а также лица, связанные с иностранцами.
Подтвердить достоверность списка проблематично, но выглядит он убедительно. В силу его объемности к той или иной категории или субкатегории может быть отнесен практически любой гражданин КНР. Автор поста утверждает, что базы данных постоянно пополняются и актуализируются при каждом использовании удостоверения личности гражданина.
Портрет гражданина также формируется историей его финансово-экономической деятельности, транзакциями в онлайне, отношениями с банками. Информация об этом находится как в банках, так и у онлайн-ритейлеров. Особо стоит упомянуть созданную Alibaba Group систему оценки кредитного рейтинга «Чжима синьюн» (芝麻信用). Эта частная структура обладает колоссальным объемом информации о поведении потребителей и их сделках, но по сути это, скорее, программа лояльности, а не настоящее кредитное бюро. Она присваивает пользователю рейтинг, рассчитываемый на основе упомянутых выше данных (действия в соцсетях, онлайн-покупки, использование системы Alipay, наличие или отсутствие обязательств, вероятно, задокументированным фактам нарушения закона и проч.).
Участие в этой системе — дело добровольное, хотя преимуществ для добросовестного покупателя в ней больше, чем недостатков. С точки зрения взаимоотношения с государством от плохого рейтинга в системе «Чжима синьюн» для пользователя негативных последствий нет.
Поведение и активность граждан мониторятся также системой уличного видеонаблюдения. К 2020 году документами Государственного комитета КНР по развитию и реформам (ГКРР) предписано обеспечить стопроцентное покрытие видеонаблюдением всех значимых районов. Указывается, в частности, что не должно быть «слепых пятен» в надзоре за «ключевыми точками» на основных дорогах, в населенных пунктах, иных важных местах. Камеры с обзором 360 градусов устанавливаются сейчас в Китае практически везде и максимально плотно: на городских улицах и площадях, перекрестках, в местах традиционного сбора людей, рядом с правительственными учреждениями, вокзалами, памятниками, больницами, туннелями, в парках, на сельскохозяйственных рынках и в торговых центрах.
Нынешнее название проекта тотального видеонаблюдения — «Сюэлян», 雪亮 (зоркий). Он базируется на программе «Тяньван» (天网), дословно переводившейся в западной прессе как Скайнет. «Железо» — лишь часть дела. Программное обеспечение уже есть и совершенствуется. В 2014 году в Шэньчжэне несколько выпускников американских вузов основали компанию «Юньтянь Лифэй» (云天励飞), занимающуюся разработкой систем искусственного интеллекта. Так появился «Небесный глаз» (天眼, тяньянь) — самообучающаяся система распознавания лиц с использованием уличного видеонаблюдения. Сейчас она покрывает весь Шэньчжэнь, включая аэропорт. Полиция в течение двух секунд может установить местонахождение, проверить криминальную историю, получить данные любого подозреваемого, пойманного в объектив видеокамеры.
Разработчики приводят в пример несколько историй. Во время отмечания Праздника весны в 2017 году в полицию сообщили о пропаже трехлетнего мальчика. Правоохранительные органы на протяжении нескольких часов работали с системой распознавания лиц, чтобы идентифицировать подозреваемого и проложить траекторию его движения. Им удалось обнаружить преступника вместе с мальчиком на борту высокоскоростного поезда, направляющегося в город Учан. Именно в этом городе преступник был задержан, а ребенок возвращен родителям. Расследование заняло 15 часов.
Вторая история. Инженеры компании по просьбе местного полицейского отделения модифицировали систему, чтобы решить проблему воровства велосипедов. В качестве первого подозреваемого в нее был внесен юноша, которого ранее не раз ловили за этим занятием. Система стала автоматически следить за ним и фиксировать все его действия: так был идентифицирован скупщик велосипедов, а затем и другие соучастники. Всего в результате четырехмесячной операции было задержано 318 преступников.
Третья история стала крайне популярна как в местных, так и в зарубежных СМИ. Компания установила систему видеонаблюдения на одном из перекрестков Шэньчжэня. Система идентифицировала переход дороги на красный свет, распознавала лица нарушителей, сопоставляла их личности с полицейской базой данных и выводила на уличный ЖК-экран крупным планом фотографию нарушителей с их именами и частью номера удостоверения личности. Данные также появлялись на сайте полицейского управления. В течение трех месяцев работы системы число любителей переходить улицу на красный свет упало на восемь процентов. С конца 2017 года эти системы стали монтироваться и в других регионах.
Информацию собирают и в отношении корпоративных субъектов. В список интересующих государство тем включены, например, данные о чрезмерном загрязнении компанией окружающей среды, нарушениях трудового и санитарного законодательства, уплате налогов, долгах по зарплате и прочим платежам. Наиболее злостных нарушителей могут назвать «серьезно ненадежными», а отличников производства и общественной жизни — наградить самыми разнообразными способами.
![В представлении чиновников, система на основе искусственного интеллекта должна управлять обществом автономно, обеспечивая эффективность, моральность и совместное процветание 62-03.jpg](/media/photologue/photos/543399/543459/cache/62-03_600_500_nocrop.jpg)
Кнуты и пряники
Собранная информация составляет базу для системы «кнута и пряника». Как это обычно бывает, «кнут» — гораздо более эффективная и конкретная методика. Ее основу составляют всевозможные черные списки — базы данных, в которые сводится информация о проступках и девиантном поведении лиц по сферам, отраслям и регионам. Оценивается вся социально-экономическая активность. К примеру, компании и правительственные учреждения должны, в теории, проверять данные о социальном рейтинге субъекта, прежде чем выдавать ему предпринимательскую лицензию при найме или карьерном продвижении.
Два наиболее известных общенациональных черных списка — список по судебным решениям и список транспортных нарушителей. Первый список — перечень неисполненных судебных решений и нарушителей по ним. Именно этот список лиц, не исполняющих судебных решений, стал причиной проблем семьи Жао, о которой шла речь в начале статьи. Информационная основа списка — запущенная в 2013 году онлайн-платформа судебных решений (China judgements online). Их сотни тысяч, при этом в начале 2010-х годов реально исполнялось лишь 20% приговоров. В 2015 году Верховный народный суд принял постановление, согласно которому лица, злостно не исполняющие судебные решения, ограничиваются в ряде прав — от запрета на путешествия на самолетах и люксовых поездах, аренды дорогой недвижимости до запрета на обучение детей в дорогих школах. По данным прессы, на середину 2018 года летать запрещено 11 млн человек, а ездить на поезде — четырем миллионам.
Этот список сейчас интегрируется с базами данных финансовых и фондовых регуляторов КНР, базой данных корпоративных регистраций и с системой кредитного рейтинга «Чжима синьюн». Таким образом, лица из черного списка не могут покупать ценные бумаги или брать кредиты до исполнения судебного предписания. В список попадают даже руководители корпораций. Например, Цзя Юэтин, основатель компании LeEco, находится в черном списке с декабря 2017 года в связи с финансовыми нарушениями.
Публикация подобных списков — уже сама по себе мера морально-психологического воздействия. Данные о фигурантах черного списка, прежде всего о компаниях, раскрывают на сайте Creditchina.gov.cn. Любой желающий может посмотреть «красные» и «черные» списки компаний (в красном списке компании, подтвердившие доверие и репутацию, в черном — потерявшие доверие). На сайте публикуют имя «черносписочников», их номер в ЕГРЮЛ, количество и суть нарушений.
Предприятия с негативной историей также вносят в список «ключевых» субъектов для проведения административных проверок, список для ограничения доступа к госзаказам и госфинансированию. Есть также понятие «серьезно ненадежных», куда попадают корпорации, подорвавшие государственные интересы. За хорошее поведение компания, напротив, может получить различные преференции от государства. Поправить рейтинг помогает волонтерство и благотворительность.
Отдельно от черного списка нарушителей судебных постановлений действует механизм наказаний за транспортные нарушения, полностью введенный в действие с 1 мая 2018 года. Это черные списки пассажиров, которые тем или иным образом нарушили правила поведения на транспорте. В наиболее серьезных случаях фигурантам списка могут полностью запретить передвижение на транспорте сроком до одного года.
Помимо упомянутых выше существуют черные списки и по регионам, и по отдельным отраслям. Например, есть список компаний — нарушителей экологического законодательства или отдельный список компаний, которые «прославились» нарушениями требований безопасности на производстве. Есть черный список пациентов — лиц, которые нападали на врачей или унижали их. Но в каком бы списке ни находились нарушители, тренд состоит в том, чтобы максимально публично «пристыдить» их (на сайте или в прессе) и добиться исправления ситуации.
Серьезное наказание для предприятий — запрет выходить на определенные рынки либо заниматься той или иной профессиональной деятельностью, и так же, как и для физлиц, запреты на чрезмерное и люксовое потребление. Это выглядит логично, ведь если у предприятия есть средства на покупку дорогого оборудования, почему оно не может заплатить по судебным долгам?
Характерно, что апеллировать к системе социального рейтинга китайские чиновники начинают и в отношении иностранных компаний. Двадцать пятого апреля Национальная администрация гражданской авиации КНР разослала десяткам иностранных авиакомпаний письма с требованиями исправить на сайтах и в самолетах географические карты, на которых Тайвань указывается как отдельное государство (по мнению Пекина, Тайвань — неотъемлемая часть КНР).
Письмо в адрес американской компании United Airlines попало в западную прессу. В нем китайские чиновники пишут, что «администрация примет соответствующие меры в соответствии с пунктами… “Временных правил управления рейтингом в отрасли гражданской авиации”, сделает запись о серьезной нечестности вашей компании и примет в отношении компании дисциплинарные меры в соответствии с разделом 3 указанных правил».
Как видно из письма, контролирующая инстанция КНР обращается к терминам «честность/нечестность», пытаясь воспитывать компанию, при этом угрожая применением вполне конкретных мер воздействия. Но было бы достаточно и чисто пропагандистских «устыжающих» мер: китайская пресса и блогеры могут мгновенно развернуть травлю неугодного предприятия или лица.
Упомянутый раздел 3 говорит, что акт «серьезного нарушения доверия» может привести к более частым проверкам, а запись об этом инциденте будет сделана не только на указанной отраслевой платформе, но и в общенациональных системах.
В результате достигнутого «компромисса» авиакомпания перестала называть Тайвань отдельным государством, хотя в то же время не были добавлены указания на «КНР/Китай» к наименованиям городов на острове.
Системы социального рейтинга постепенно вводятся по регионам. Пекинский пилотный закон вступил в силу в мае 2018 года и в основном нацелен на противодействие мошенничеству со стороны компаний. По сообщениям пекинской прессы, с запуском этого закона власти будут стремиться «исправить» поведение свыше десяти тысяч нечестных предприятий. Согласно этой информации, различные ведомства пекинского правительства разработали систему из 18 видов наказаний, включая ограничения на госзакупки и получение в аренду государственных земель. Наказания физических лиц увязаны с нарушениями на руководимых ими предприятиях.
Очень плотно в системе социального кредита должны использоваться собственно кредитные бюро, которые оценивают кредитоспособность и финансовую платежеспособность физических лиц. С 2015 года основным кредитным бюро является упомянутая выше «Чжима синьюн». Участникам этой системы присваивается реальный количественный рейтинг. Считается, что высокий рейтинг — от 350 до 950 баллов — упрощает жизнь. Например, дает возможность брать в аренду велосипеды, машины или квартиры без залога. Помимо этого рейтинг свыше 650 баллов в системе «Чжима» позволяет попасть к врачу в одной из больниц Шанхая без очереди в кассу (пациенту как бы выдается кредит, который он может оплатить позже).
Из сравнительно курьезных случаев применения рейтинга «Чжима»: как сообщило Центральное телевидение КНР, китайские пользователи, играющие в многопользовательскую игру-стрелялку Counter Strike Global Offensive, должны регистрироваться в игре с указанием своего рейтинга в «Чжима». За обман в игре рейтинг будут снижать. Высокий кредитный рейтинг открывает доступ к лучшему выбору подружек или друзей на сайте знакомств Zhenai.com. А сайт знакомств Baihe.com позволяет хвастаться своим высоким рейтингом в «Чжима» (при условии, что эта информация открыта и у собеседника).
Проблемы и перспективы системы социального рейтинга
Система соцрейтинга может стать одним из самых масштабных проектов по управлению общественными процессами, если будет осуществлена в полном объеме. Однако реализация программы требует крайне высокой степени координации между самыми различными субъектами внутри и вне правительства, сторонами, имеющими различные интересы, а иногда не доверяющими друг другу. Есть серьезные сомнения, что программа будет завершена к 2020 году, скорее всего ее продлят.
Если позиция государства относительно необходимости развития системы соцрейтинга понятна, то общество, как представляется, более осторожно. Но даже если сделать поправку на цензурирование мнений в социальных сетях, оно скорее благосклонно к планам, не отрицая, впрочем, и рисков.
Первый риск — волюнтаристский механизм попадания в некоторые черные списки. Взять, например, правила по «управлению информаций в интернет-группах», согласно которым ответственность за содержание бесед несут не только сами участники, но и администраторы групп, и интернет-провайдеры. Если анонимный администратор счел ваше высказывание резким, вас могут отключить от интернета и включить в черные списки.
Второй риск — безопасность данных. В последние годы потребители не раз подавали в суд на китайские интернет-компании за незаконный сбор таких персональных данных, как местоположение или доступ к контактам. Ant Financial (оператор «Чжима синьюн») уже приносила извинения за несогласованный с пользователем доступ Alipay к персональной информации. Государству в этом плане граждане доверяют явно больше, а власти внедряют новые меры по защите личных данных.
Третий риск — необъективность систем финансового скоринга. Эта проблема признавалась даже Народным банком Китая: действительно, та же «Чжима синьюн» оперирует изначально данными о сделках и действиях пользователя на платформах Alibaba. Достаточно ли этого? Вряд ли.
Четвертая проблема, вытекающая из вышесказанных рисков, — единая общегосударственная система соцрейтинга не будет работать без единого цифрового идентификатора субъекта. Достаточно ли цифровизации физического удостоверения личности? Этот документ, кстати, по-прежнему нужен и привязан к целому ряду активностей в реальном мире: от покупки авиабилетов, регистрации в гостиницах и выхода в интернет до открытия банковских счетов. Но как быть с безопасностью данных из удостоверения личности?
В Гуанчжоу, на юге Китая, был запущен пилотный проект, привязывающий удостоверение личности к идентификатору в сети WeChat. СМИ писали, что таким образом тестируется общенациональная система цифрового удостоверения личности, но крайне маловероятно, что власти позволят частной коммерческой компании иметь столь большое влияние в делах государственной важности.
Система социального рейтинга находится на начальном этапе развития, хотя ажиотажа вокруг нее достаточно. Действительно, трудно пройти мимо материализующихся предсказаний Замятина или Оруэлла о всевидящем оке Большого Брата или все контролирующем Едином государстве. Но практика все же более приземленная: в первую очередь власти хотят создать такую систему управления, которая обеспечивала бы вовлеченность всех граждан и стимулировала их благонадежность.