На грани фантастики
Технологиями искусственного интеллекта (ИИ), которые открывают почти безграничные возможности по сбору и обработке информации, сейчас увлечены не только ученые, активный интерес проявляется и на государственном уровне, и в бизнесе. В то же время, применение или испытание новых технологий ИИ способно насторожить общественность. Так происходит и с экспериментом, который еще не начался, но уже анонсирован в Москве.
Известный в IT-индустрии предприниматель и эксперт, член Совета при президенте России по правам человека Игорь Ашманов в Telegram-канале СПЧ разместил 22 июня пост, в котором выразил беспокойство по поводу готовящегося в столичных магазинах эксперимента с использованием ИИ.
«В Москве разработали систему анализа поведения покупателей в магазинах. ИИ определяет возраст, пол и направление взгляда клиентов магазинов, чтобы выявить потенциально интересные им товары, — говорится в посте. - С одной стороны, если это полностью обезличенная система, которая интересуется, в основном, полками в магазине и общей статистикой интересов обобщенного посетителя магазина, то вроде бы тут нет ничего страшного. С другой стороны, поскольку это касается крайне чувствительных персональных данных – сбора изображений людей и анализа их поведения, хотелось бы задать разработчикам и покупателям этой системы вопросы».
Ашманов отталкивается от информации, которая сообщается на официальном ресурсе mos.ru. Согласно сообщению, столичная компания «Гаоди» разработала систему, которая с помощью ИИ анализирует поведение покупателей в магазинах. Устройство состоит из камеры и специального компьютера на базе процессора с нейронным ускорителем. Предполагается, что разработка будет полезна крупным, средним и малым ритейлерам, а также владельцам товарных полок в магазинах, которые по направлению взглядов покупателей смогут определять их интересы.
Благодаря собранной ИИ информации можно определить, какие товары привлекают внимание покупателя за счет внешнего вида, как лучше расположить их на полках магазина, а также понять, какие инструменты способствуют увеличению интереса к продукции. Компания «Гаоди» планирует выпускать не менее тысячи таких систем в год, сообщается на ресурсе правительства Москвы. А эксперимент по их внедрению начнется в ближайшее время.
Вопросы же, возникшие у Игоря Ашманова, таковы.
«Для распознавания “направления взгляда” нужно в любом случае сосканировать лицо покупателя и как-то распознать на нем черты лица, в частности – глаза. То есть биометрические данные граждан попадают в систему.
Как это согласуется с запретом держать лица граждан и их дескрипторы (векторы, сигнатуры) где-либо, кроме государственной Единой биометрической системы, а также с правом гражданина запретить любым организациям сбор и анализ данных о своем лице и прочей биометрии?»
Наряду с этим, эксперт интересуется сроком хранения данных, а также их защитой от утечки. И потом задает следующий вопрос, касающиеся прав отдельных категорий граждан.
«Каким образом планируется отфильтровать при съемке несовершеннолетних, сотрудников силовых ведомств, другие чувствительные и уязвимые категории граждан, которых снимать, идентифицировать и анализировать нельзя?»
«Предосторожности и купирование рисков для приватности и национальной безопасности нужно “зашивать” в систему изначально»? — завершает Ашманов свой пост.
Да, как известно, несовершеннолетних можно снимать только с разрешения родителей. А ИИ спросит разрешения у них, «сканируя» детей? Существует особая процедура для съемки военнослужащих, ИИ будет ей следовать? И кто будет отвечать за утечку этих данных, если она произойдет и повредит покупателям?
Заметим сразу, что федеральный закон № 123 вводит экспериментальный правовой режим, который разрешает коммерческим структурам применять в Москве (другим регионам это пока запрещено) технологии ИИ по согласованию с органами власти. Так что, с этой толчки зрения, «опыт над покупателями» имеет право на существование.
Но дело в том, что что экспериментальный правовой режим, введенный ФЗ-123, не отменяет требования ряда других законов, в том числе - о персональных данных. А это значит, к примеру, что хранить и анализировать биометрические данные человека (лицо, глаза) может только государственная Единая биометрическая система, но не используемый в коммерции ИИ.
Говорят эксперты и разработчик
«Эксперт» спросил у специализирующегося на законодательстве о персональных данных юриста о том, какой должна быть эта исследовательская программа, чтобы не нарушать законодательство РФ. На вопрос ответил руководитель компании «Афонин, Божор и партнеры» Михаил Божор:
«Персональные данные – это сведения, которые позволяют установить конкретное лицо. Разработчики программы декларируют, что будут определять только возраст, пол и направление взгляда. Если так – это не персональные данные, использовать такую информацию законом не запрещено».
Есть и особая категория персональных данных - биометрические персональные данные. К ним можно отнести, например, сетчатку глаза, лицо целиком или совокупность каких-то точек на лице. Но если база данных будет хранить только рост, прическу, жест, направление взгляда, предполагаемый пол и предполагаемый возраст, но не саму видеосъемку, то это – не биометрические данные.
«Если разработчики будут хранить съемку, на которую попадает лицо человека, то Роскомнадзор может посчитать это незаконным хранением персональных данных, поскольку на основании такого изображения можно идентифицировать человека. Чтобы не привлекать внимание надзорного органа, не следует этого делать. Нужно хранить только числовые данные», - советует юрист.
Что касается получения согласия от покупателей на съемку в принципе, то в местах, открытых для свободного посещения, оно не требуется. Достаточно знака, что ведется видеонаблюдение.
«Но изображение человека не должно быть основным объектом использования, - подчеркивает Михаил Божор. - Если идет фотоохота на одного конкретного человека в толпе, то его изображение становится основным объектом использования и требуется получить согласие».
Если организаторы эксперимента будут следовать этим критериям, то, по мнению юриста, претензий со стороны Роскомнадзора к ним возникнуть не должно.
Более критически, чем юрист, относится к ситуации специалист, который профессионально занимается видеонаблюдением на практике. Он считает, что закон вообще не позволяет использовать видеонаблюдение за людьми в частных или коммерческих целях.
«В нашей стране нет единого закона о видеонаблюдении. Но есть законы об охранной деятельности, персональных данных, уголовный и гражданский кодексы, Конституция – и все они защищают наши права на частную жизнь», - сказал «Эксперту» начальник отдела информационной безопасности и технических средств защиты ЦКБ ГА Алексей Щучкин.
Наблюдение в местах большого скопления людей регулируется различными постановлениями правительства, в зависимости от характера этого места и отрасли, к которой оно относится. Эти постановления не просто разрешают, а обязывают вести наблюдение без сбора разрешений от граждан. Но все эти постановления говорят только о безопасности, как о цели наблюдения.
«Видеонанаблюдение в местах большого скопления людей следует рассматривать в зависимости от характера этого места и целей, для которых оно производится, — говорит Алексей Щучкин. — Одно дело, когда наблюдение осуществляется в целях обеспечения безопасности в публичных местах. Оно не носит скрытого характера, размещены таблички с уведомлением, что видеонаблюдение производится. И совсем другое, если данные действия производятся с целями, не регламентированными законодательством. Никто никогда не разрешал снимать граждан без их согласия для того, чтобы потом на этом основании делать какие-то расчеты для бизнеса».
По мнению специалиста по информационной безопасности, без согласия граждан можно вести съемку только с целью обеспечения безопасности. А для того, чтобы использовать такие наблюдения для научных, статистических или маркетинговых исследований, нужно принимать специальный закон или нормативные акты.
Мысль понятна: такой закон или иные акты нужны не просто как формальная санкция. Они бы тем или иным образом регламентировали видеонаблюдение (съемку) и обработку, а также хранение получаемых данных. С учетом законодательства, регламентирующего как использование персональных данных вообще, так и защищающего права отдельных категорий граждан.
«Эксперт» отправил разработчикам программы вопросы о том, соответствует ли она законодательству и была ли проведена юридическая экспертиза этого, безусловно, очень интересного продукта, связанного с искусственным интеллектом. В ответе, который получил «Эксперт», о юридической экспертизе ничего не говорится, однако сообщается: «Система не хранит никакие персональные данные (образ лица), мы отправляем только данные о гендере, возрасте и направлении взгляда, никакие фото материалы не участвуют в аналитике и никто не может их посмотреть».
Ответ достаточно убедительный, но в какой мере он снимает все перечисленные выше вопросы по поводу новой разработки, анализирующей поведение покупателей, судить не можем. Если — не в полной, то тогда, вероятно, продолжится профессиональная дискуссия о технологиях, юридических аспектах их применения. И общественная дискуссия о тех изъятиях из своей приватности, которые мы готовы допустить ради чьей-то коммерческой выгоды (и, конечно же, суммирующего такие выгоды роста экономики в целом, это мы понимаем).
