Уже до конца октября почти две тысячи автобусов подмосковного «Мострансавто» будут оборудованы видеокамерами с системой распознавания лиц. Умные камеры, подключенные к системе «Безопасный регион», заменят системы аналогового видеонаблюдения, установленные в автобусах заводом-изготовителем. В каждой машине предусмотрено разместить по пять камер — одна направлена на водителя, две на пассажиров, а оставшиеся фиксируют происходящее за лобовым и задним стеклом. Данные с видеокамер будут передаваться в диспетчерские центры и в полицию. При помощи новой технологии планируется разыскивать преступников и пропавших без вести, между делом контролируя порядочность водителей и кондукторов.
В сфере внедрения умного видеонаблюдения московские власти идут в мировом русле. Глобальный рынок систем наружного наблюдения уже превышает 35 млрд долларов и растет, по разным оценкам, на 10–12% в год, а к 2025 году может удвоиться. Основная тенденция последних лет — внедрение систем распознавания лиц. Соответствующий рынок растет еще быстрее, но пока относительно мал — менее четырех миллиардов долларов. Тут и там возникают стартапы, предлагающие «прорывные» решения, хотя успех технологии зависит от вычислительной мощности и «натренированности» искусственных нейронных сетей. И если первая проблема — объективно технологическая и темпы прогресса в ней ограничены, то «тренировка» нейронных сетей — куда более прорывное направление, но оно требует масштабного и ускоренного сбора данных в глобальном масштабе. В эту сторону и смотрят хайтек-гиганты.
Хотя для массового внедрения в транспортные и иные городские системы технологии распознавания лиц еще недостаточно зрелы, в более узких направлениях они зарекомендовали себя неплохо. Apple, Amazon и многие другие активно внедряют такие технологии: теперь «лицом» можно разблокировать телефон, отметить друзей в Facebook, найти родственников на старых фотографиях и даже заплатить за товар. Очевидно, что компании собирают огромное количество изображений, на них тренируют искусственные нейронные сети, чтобы сделать технологию еще лучше. Как далеко это может зайти, зависит от регуляторов. На прошлой неделе в комитет сената США по торговле были вызваны представители Google, Apple и других гигантов. Политики хотели в очередной раз удостовериться, что «корпорации делают все возможное для защиты частной жизни и личных данных граждан», причем акцент был сделан именно на системы распознавания. За ширмой широко тиражируемой темы приватности, ставшей инструментом политической борьбы, скрывается реальность — умные камеры устанавливаются повсюду: в транспорте и на дорогах, в жилых зданиях и, что самое интересное, в смартфонах. Люди без тени сомнения пользуются системами вроде Face ID и добровольно передают корпорациям свои данные, потому что такова логика всего современного технологического бытия. По сути, мы сами и есть основной инструмент в «обучении» технологий.
Хотя России трудно похвастаться массовостью внедрения новых технологий, определенный прогресс все же есть. Например, недавно холдинг «Росэлектроника» госкорпорации «Ростех» представил систему распознавания лиц (разработка НПО «Импульс»), которая идентифицирует личность, снимая два биометрических параметра: квази-3D-образ лица и радужную оболочку глаза. По данным создателей, алгоритм распознает и верифицирует субъекта за три–пять секунд даже при наклоне и повороте головы, изменении внешности при помощи парика, очков, бороды или в результате естественного старения. Система способна аккумулировать собранную информацию и предоставлять ее по запросу правоохранительных органов для дальнейшего определения и верификации правонарушителей. Аналогичная технология применяется ФМС России при изготовлении биометрических заграничных паспортов. Отметим, что технологии видеоконтроля «Росэлектроники» уже внедрены на пассажирском транспорте Санкт-Петербурга.
В апреле подобные технологии автоматизированного распознавания лиц запустили в аэропорту Домодедово, а еще раньше — в Московском метрополитене. Стоимость установленного в метро оборудования составила порядка 30 млн рублей, из которых три миллиона ушло на программу распознавания лиц. И все же ни одно заявление об успехах массового видеонаблюдения не убеждает в его эффективности и безопасности в долгосрочной перспективе.
Тупое орудие безопасности
В бытность Юрия Лужкова мэром столицы московская система видеонаблюдения в основном состояла из муляжей, а не настоящих камер. Сделано это было не специально, а по вине недобросовестного подрядчика и халатности столичных властей, вовремя не заметивших подвоха. За десять лет систему удалось привести в порядок, и теперь в Москве установлено уже 170 тыс. настоящих камер, объединенных в единую систему. На ее поддержание власти ежегодно тратят около пяти миллиардов рублей. При этом камеры едва ли справляются с заявленной задачей — быть инструментом в борьбе с преступностью. В 2017 году в Москве при помощи данных с камер видеонаблюдения раскрыли всего 3085 преступлений, что составляет 7,6% от общего числа раскрытых преступлений и лишь 2,2% от общего числа зарегистрированных.
Влияние камер на снижение уровня преступности явно переоценено. По данным прокуратуры Москвы, количество зарегистрированных преступлений за период с января по июль 2018 года почти соответствует показателю за аналогичный период 2017 года и составляет чуть более 82 тыс. Стало быть, дорогая система городского видеонаблюдения, к тому же частично оснащенная технологией распознавания лиц (в Москве умных камер более трех тысяч), не спешит снизить преступность.
Что касается сокращения количества правонарушений в 2017 году на 20% по сравнению с 2016-м (эта цифра часто приводится в качестве одного из аргументов в пользу эффективности системы), то эксперты солидарны: оно происходило на фоне роста уровня жизни населения Москвы, а не количества камер. В лучшем случае городские видеокамеры приводят к перемещению преступности с мест, где камеры есть, в места, где они отсутствуют. Кроме того, преступники приноровились обманывать видеокамеры, используя целый арсенал методов, будь то отключение камер, затенение или маскировка в толпе.
Эффективность сети видеокамер страдает и от несовершенства механизмов обработки данных. Информацию нужно вычленить из общего потока, отделив ее от информации, не представляющей никакого интереса. И компьютеры здесь не помогают — рутинным просмотром изображений занимаются сотрудники центров обработки данных. «Мониторинг видеоэкранов одновременно завораживает и вгоняет в скуку», — отмечают эксперты по технологиям безопасности. Было обнаружено, что после двадцати минут просмотра и оценки информации на экранах мониторов внимание большинства людей падает значительно ниже приемлемого уровня. Такая невнимательность порождает ошибки и недочеты.
«Люди всегда были слабым звеном автоматизированных систем. Именно поэтому их и заменяют алгоритмами распознавания. Но не стоит забывать, что эти алгоритмы тоже нуждаются в защите. Они должны работать в доверенной среде, а этому в Москве пока явно не уделяют должного внимания. Чего только стоят 30 тысяч незащищенных компьютеров в Единой медицинской информационно-аналитической системе столицы, обрабатывающей специальные медицинские персональные данные всех москвичей», — объясняет «Эксперту» доктор технических наук, профессор, завкафедрой защиты информации МФТИ Валерий Конявский.
Следует отметить, что низкая эффективность системы городского видеонаблюдения — проблема не только Москвы. В Лондоне, где в целом установлено порядка четырех миллионов камер видеонаблюдения, четыре из пяти районов с самым большим числом камер имеют самые низкие показатели выявления преступлений во всем городе. Учитывая, что Великобритания тратит порядка 20% своего бюджета в области безопасности на городское видеонаблюдение, эти показатели свидетельствуют о явной малоэффективности технологии.
Конечно, данные с камер могут стать уликой во время следствия, и это положительный момент, но и такая опция появилась у нас совсем недавно — до последнего времени приобщать картинки с камер к материалам дела не разрешалось. Другой плюс камер — их положительное психологическое воздействие на граждан. По результатам исследования департамента региональной безопасности и противодействия коррупции Москвы, сегодня 70% жителей столицы удовлетворены уровнем безопасности в городе. Пять лет назад подобного мнения придерживалось лишь 30% москвичей. Получается, городские камеры служат скорее внешним атрибутом защищенности и на законопослушных граждан действуют успокаивающе. Не забудем, что камеры активно, а главное — эффективно используются властями для выписывания штрафов дорожным правонарушителям. В Москве установлено почти полторы тысячи камер автоматической фиксации нарушений, сто из которых работают по 13 составам нарушений, включая неправильную парковку и даже остановку в неположенном месте.
Взломай меня, если сможешь
«Данные нужно защищать не потом и где-нибудь, а там, где они появляются, и тогда, когда появляются. Не сделав этого, мы даем фору злоумышленникам. Раньше это было сделать сложно, так как для этого нужен встроенный в камеру миниатюрный шифратор. Сейчас такие решения есть. Используют ли их? Нет. Почему? Не знаю. Наверное, профессионалы недостаточно настойчиво объясняют чиновникам важность проблемы», — говорит «Эксперту» Валерий Конявский.
Вывести любую систему видеонаблюдения из строя, подменить видеопоток и выдавать вместо видео в реальном времени старую запись вполне реально. Эксперт из Kaspersky Lab и его коллега из Exigent Systems воссоздали в лабораторных условиях сеть видеонаблюдения одного из городов (название не раскрывается), закупив идентичное оборудование. Они идентифицировали устройства по наклейкам с именем компании-производителя и названием модели, которые городские власти забыли снять с камер видеонаблюдения. Исследователи построили поддельный узел, который встраивался в цепочку в качестве последнего звена, и, подключившись к беспроводной сети, провели атаку класса man-in-the-middle («человек посередине»). Это позволило как перехватывать данные, идущие от камер, так и изменять их по необходимости. Впрочем, как указывает в разговоре с «Экспертом» бизнес-консультант компании Cisco Алексей Лукацкий, «неуязвимых систем не бывает в принципе. Вопрос стоит немного иначе: как сделать так, чтобы взлом системы оказался дороже или сопоставим с получаемым хакерами преимуществами».
«Применяемые сегодня механизмы видеонаблюдения отстают от уровня, достигнутого в государственных информационных системах (ГИС). Видимо, дело в том, что регулирование в области ГИС уже осмыслено и освоено, а в освоении систем видеонаблюдения еще делаются первые шаги. На мой взгляд, в этой области вполне применимы положения регулирования критических информационных инфраструктур», — считает Валерий Конявский.
Заведующий кафедрой информационного обеспечения внешней политики факультета мировой политики МГУ им. М. В. Ломоносова Александр Музыкантский в беседе с «Экспертом» указывает на важность того, где и как хранится информация с видеокамер. «Системы видеонаблюдения и распознавания лиц нужно тестировать параллельно с системой безопасности, поэтому такие решения, как повесить повсеместно камеры, должны приниматься после всестороннего исследования вопроса. Если с точки зрения защиты конституционных прав безопасность не обеспечена, то камеры устанавливать нельзя. Впрочем, скорее всего, их все равно будут вешать», — считает эксперт.
Умные видеокамеры выполняют анализ набора лицевых измерений, помещая их в код, для которого затем создается уникальный хеш-идентификатор. Любой, кто способен проникнуть в базу данных, может украсть этот идентификатор, что равносильно краже лица. Доказать, что ваша личность была украдена злоумышленником, будет достаточно сложно, более того, у потерпевшего могут возникнуть проблемы и в дальнейшем, так как вернуть себе лицо сложнее, чем поменять пароль.
Пытаться получить доступ к городским базам данных могут не только частные лица. Государственные структуры нередко используют систему видеонаблюдения не по прямому назначению. Например, сеть видеокамер вполне может быть использована для привлечения к ответственности митингующих и гражданских активистов. В западной прессе и отчетах правозащитных организаций, в частности британской Big Brother Watch, систематически публикуют информацию о том, как во время забастовок и движений за гражданские права полицейские подразделения незаконно шпионят за политическими активистами при помощи городских камер. Учитывая возрастающий уровень низовой активности в связи с непопулярными реформами, российское общество тоже может ждать что-то подобное. Не обязательно это закончится уголовным преследованием, но вполне может быть использовано в качестве элемента запугивания.
«Любая технология имеет две стороны. К примеру, общение по телефону создало возможность для прослушки разговоров. Раньше нужно было вручную перехватывать письма, а сегодня это делается техническими средствами. Проблема ведь не в самих технологиях, а в отношении к ним и в способах их использования. Думаю, пределы применения камер наблюдения должны быть, и прежде всего пределы этические», — сказал «Эксперту» старший преподаватель кафедры международной безопасности факультета мировой политики МГУ им. М. В. Ломоносова Василий Веселов.
Получается, что расходы государственного бюджета на повсеместное видеонаблюдение дают «дополнительные опции» отслеживания невинных граждан.
Всевидящее око Поднебесной
Пожалуй, наиболее ярким примером реализации идеи тотальной слежки становится современный Китай. Дело в том, что массовое видеонаблюдение стало возможным только благодаря удешевлению технологий накопления и передачи больших массивов данных. Соответствующие технологии в Китае в избытке. В КНР уже насчитывается 176 млн камер видеонаблюдения (из которых 20 млн — умные), еще 400 млн планируется установить в ближайшие три года. Китайские власти активно внедряют технологии распознавания лиц и передовые методы обработки видеоданных. В этом китайским властям помогают ведущие ИТ-корпорации — Alibaba, Tencent, а также молодые компании вроде «единорога» Face++.
Восточная мудрость гласит: «Хочешь победить врага — воспитай его детей». Китай пошел дальше и решил заняться усиленным воспитанием собственных, внедрив систему видеонаблюдения с технологией распознавания лиц в систему образования. В марте 2018 года средняя школа № 11 в Ханчжоу оснастила несколько классов умными камерами, которые могут не только определять, чем занят учащийся, но и распознавать его эмоции. Камеры отслеживают внешнее выражение психоэмоционального состояния учеников, определяя, выглядят ли они счастливыми, грустными, сердитыми или нейтральными, а затем передает полученные сведения учителю. «У нас есть пороговый минимум. Если оценка состояния ученика ниже, это означает, что он не может сосредоточиться во время занятий, — объясняет директор школы Чжан Гуаньчао. — Система побуждает учеников добровольно изменить свое поведение в классе, быть более внимательными, быстрее учиться и в конечном счете хорошо сдавать тесты». За пределами Китая подобный подход к образованию вызвал всплеск негодования. Интернет-пользователи сразу вспомнили подходящий по случаю термин «лицепреступление» из романа «1984». «Если учителя будут требовать от учеников, чтобы те улыбались в классе, учащиеся ничем не будут отличаться от роботов, верно?» — рассуждает китайский фотограф Чжан Цзин.
Однако Китай не собирается ограничиваться школами. При помощи тотальной сети видеонаблюдения и технологии распознавания лиц правительство КНР планирует внедрить систему социального кредита. За ее основу взят механизм кредитного рейтинга в банковском секторе, только китайцев планируется проверять на честность, что для Коммунистической партии КНР является синонимом законопослушности. Если балл окажется «непроходным», к обладателю низкого рейтинга будут применяться санкции: особо тщательный досмотр на таможне, запрет на обучение детей в элитных школах, отказ в соцобеспечении и т. д. Всего будет учитываться порядка 160 тыс. параметров.
Такая система призвана воспитать не только новое поколение послушных китайцев, но и сохранить статус-кво в сегодняшнем законодательстве. Тот, кто ее вводит, должен быть абсолютно уверен в идеальности законов, иначе их исполнение может попросту навредить гражданам. Более того, подобная система может стать благодатной средой для паразитирования мошенников. Например, появятся компании, предлагающие услуги по накрутке баллов, как это сейчас происходит с лайками и комментариями в соцсетях, или, что хуже, киллеры соцрейтингов, за деньги уничтожающие репутацию законопослушных граждан. Но правительство КНР это не смущает. Согласно плану внедрения системы соцрейтинга, ее главная цель вовсе не безопасность граждан, а «построение гармоничного социалистического общества». И если для этого понадобятся жертвы, то Поднебесная закроет на них глаза. По планам властей, система должна быть внедрена на всей территории Китая уже к 2020 году. Сегодня полным ходом идут локальные испытания пилотных проектов, например в северо-западной провинции Синьцзян.
Синьцзян-Уйгурский автономный район был выбран в качестве экспериментального полигона для системы соцрейтинга неслучайно. Регион представляет проблему с точки зрения властей КНР, которые обвиняют местных представителей в поддержке терроризма и исламского экстремизма. Сегодня в провинции установлена большая часть тех самых 20 млн умных видеокамер. С 2014 по 2016 год китайские власти потратили на контроль жителей Синьцзяна вдвое больше, чем на другие районы, а в 2017 году — втрое больше.
Девятого сентября организация Human Rights Watch опубликовала доклад, по данным которого в последние годы в регионе происходит массовая слежка и задержание уйгуров с последующим помещением их в тюрьмы и воспитательные лагеря. При этом слежка происходит повсеместно: в банках, больницах, супермаркетах, подземных переходах. Судьба этнических уйгуров полностью зависит от баллов, начисленных в системе «социального кредита». По оценкам Human Rights Watch, репрессий такого масштаба в Китае не случалось со времен культурной революции (1960–1970-е годы).
Профессор истории Дартмутского колледжа Памелла Кайл Кросли считает, что «китайское общество более подготовлено к интеграции коммерческих, военных и правоохранительных данных, чем американское. В результате китайцев сильнее контролируют посредством запугивания и самоцензуры, чем будут контролировать американцев еще пару десятилетий». Но такие оценки кажутся излишне оптимистичскими. Кого надо, поймают. В 2016 году Конгресс США выделил Таможенно-пограничной службе миллиард долларов на разработку и внедрение системы умного видеонаблюдения, а правительство США наделило ее правом беспрепятственно собирать изображения со всех транспортных средств. Системы умного видеонаблюдения уже введены, например, в 14 американских аэропортах. В начале лета аэропорт Орландо запустил первое в США обязательное сканирование лиц всех пассажиров, включая граждан США. «Простых людей просят предъявить удостоверение личности, чтобы доказать свою невиновность, поскольку полиция ошибочно идентифицирует тысячи невинных граждан в качестве преступников. Тревожно и недемократично то, что полиция использует технологию, которая почти полностью неточна, и это создает большой риск для наших свобод», — считает директор Big Brother Watch Силки Карло.
