Сообщают о первых достижениях системы социального рейтингования в Китае. Эта система оценки поведения граждан (в разных публикациях её название переводят по-разному: система общественного доверия, социального кредита и проч.), при которой «общественное недоверие», становясь следствием разнообразных видов «неправильного поведения», ограничивает права индивидуума, заработает в полную силу в 2020 году. Пока систему лишь тестируют в нескольких провинциях, но к лету этого года права летать самолётами были лишены уже одиннадцать миллионов граждан, права ездить скоростными поездами — четыре с лишним миллиона. Полного списка «грехов» и «заслуг» власти не публикуют, но увеличивают рейтинг гражданина, например, донорство и волонтёрство, снижают же не только курение в неположенных местах, нарушение ПДД или списывание на экзаменах, но и критика власти в соцсетях, и ссоры с соседями, и, скажем, «чрезмерные покупки видеоигр». Используются, в частности, данные быстро расширяющейся сферы применения системы распознавания лиц. Список кар, уготованных тем, кто «нарушает закон и теряет доверие», также не обнародован, но вроде бы уже действуют ограничения не только на переезды, а и на доступ к хорошим школам и социальному обеспечению, к приемлемым условиям кредитования, к работе по каким-то профессиям и т. д. Словом, цифровой тоталитаризм в полный рост.
Вопрос не в том, сочувствовать ли гражданам КНР, на полном ходу въезжающим в хрестоматийную антиутопию. Вопрос в том, как скоро (и насколько гласно) за китайским правительством последуют власти других стран: соблазн-то уж больно велик. Правильно учат военные теоретики: не так важны намерения субъекта — провозглашаемые, да даже и подлинные, — как его реальные возможности. Пока западные эксперты склонны заявлять, что «подобная инициатива не сможет прижиться в свободном мире», но, если (когда) окажется, что запустить этакого Сверхбольшого Брата и вправду возможно, будет слишком уж наивно полагаться на истинность таких мантр. Сможет эта инициатива прижиться и в свободном мире, и в каком хотите. Думать об этом надо сейчас; ещё вчера надо было.
Техническая осуществимость такой затеи налицо или вот-вот появится. Ключевой момент тут, по-видимому, даже не объединение всех океанов информации, до которых может так или иначе дотянуться правительство, а выход технологий распознавания лиц на стабильный уровень надёжности. Ещё совсем недавно лица в уличной толпе бесперебойно распознавались компьютерами только в полуфантастических сериалах, но теперь, похоже, дело пошло лучше — в том числе, говорят, и у нас. Вопрос осуществимости политической менее однозначен, но и тут не видно непреодолимых преград. Не надо строить иллюзий: введение такой системы, несущей Справедливость, ограничивающей аппетиты Плохих, чтобы нам, Хорошим, зажилось полегче, наверняка не вызовет широкого отпора. При минимально грамотной подаче — хотя бы на уровне заглавных букв в предыдущем предложении — начинание будет встречено на ура внятным большинством. Посмотрите, как тема обсуждается в соцсетях сегодня; даже без пропагандистской артподготовки, какую внедрению подобной системы предпослало бы любое государство, люди охотно высказываются «за». Цитирую первое попавшееся: «Это не ограничение свободы. Это недоступ к благам, которое общество дает своим гражданам. Вредишь обществу и людям? Ходи пешком»; «Тут выгода не абстрактному государству, а конкретным пользователям, которым более не придётся лететь в одном самолёте с пьяницей дебоширом и нюхать его носки и куру-гриль»… Такого много, а поработать как следует мейнстримным медиа, будет и подавляюще много — во всяком случае, на время того или иного решающего голосования. Потом-то, когда машинка завертится, энтузиазм неизбежно пойдёт на спад, да будет поздно. Не разженишься. Но раз технически можно и политически можно, что же удержит страны от такого опаснейшего шага? Боюсь, надеяться можно только на выдержку и осторожность элит, как ни хрупка эта надежда.
Из того, что ни в западных странах, ни, скажем, в Индии, ни у нас не видно ничего прямо похожего на китайский социальный рейтинг, не следует, что перечисленные страны не делают других шагов примерно в ту же сторону. Так, в западных университетских и интеллектуальных кругах система куда более жёсткая, чем обсуждаемая, уже сложена: фраза, сказанная не совсем в русле мейнстримных воззрений, рубит карьеру без надежды на восстановление. Доносы, включая анонимные, вполне «в тренде». У нас 282-я статья ввела в моду очень похожую практику: оскорбляться неприятным тебе словом и требовать для оскорбителя уголовных и/или административных кар. Ни то ни другое до китайской прямоты далеко недотягивает, но почву для неё несомненно удобряет.
Между тем, запускаемая китайцами система чрезвычайно опасна. Что станут вытворять соискатели рейтинга, как будут пользоваться новым рычагом малые, средние и большие начальники, представлять себе в деталях не хочется. По всему обществу пойдут микротрещины; далеко не худшие граждане — включая и заведомо способных преуспевать в новых условиях — будут переходить от безразличия к системе к внутреннему несогласию, а там и к внутреннему противостоянию с ней. Спросите специалистов по сплошным средам, к чему приводят эти самые усталостные микротрещины. В бесконечно длинной китайской истории не раз случались крутые обвалы — с разором, развалом и запустением; как бы затея с социальным рейтингом не оказалась предвестием ещё одного такого обвала.
По известному bon mot, социализм построить было можно — если выбрать для этого страну, которой не жалко. Точно так же, вероятно, следует признать, что в век бесконечных разговоров про ИИ да про Big Data выстраивание чего-то подобного оруэлловскому страшилищу не только возможно, но и неизбежно. Так давайте в этот раз не рваться в число тех, кого не пожалели для эксперимента. Давайте внимательно смотреть на то, что делают наши юго-восточные соседи. Не кидаться повторять — точно или с вариациями — после первых же шагов, а терпеливо ждать и внимательно анализировать наступающие последствия. Хотя бы лет пятнадцать. Хотя бы пять.
