ГЮ: Существует такой приём — «Тактика салями». Она предполагает, что вы достигаете своей цели не напрямую, а через последовательность промежуточных действий — медленно «нарезаете» что-то, как салями. Например, если аудитории сказать сразу, что через год состояние X придёт в состояние Y, это вызовет волнения и реакцию. Но если предоставлять изменения постепенно, это пройдет незаметным. Вам просто нужно каждый раз отрезать по 1/40 X, но 40 X равно Y, поэтому через год вы оказываетесь в состоянии Y и аудитория совершенно не против. У Путина сегодня такая технология медленных и плавных изменений.

АИ: Один из примеров медленных и поступательных изменений, мы могли видеть во время эпидемии ковид. ДИТом (Департамент Информационных Технологий Москвы) было создано приложение социального мониторинга, которое изначально позиционировалось как тест и должно было следить за соблюдением карантина в Москве. Но буквально за один месяц было создано приложение в «боевом режиме», со всеми функциями, без каких-либо тестов.

СД: Совместно с разработкой этого приложения [социальный мониторинг] в законодательство была добавлена очень сомнительная норма. Никто даже не заметил как в Москве легализовали процесс принятия юридически значимых решений с помощью алгоритма. Видеокамеры с распознаванием лиц фиксировали нарушения карантина и в автоматическом режиме выносили постановление об административном правонарушении. Похожие эксперименты происходят постепенно и не получают никакой правовой оценки, не привлекают должного внимания.

СД: Например, FacePay в московском метро это, действительно, очень удобно. Не надо носить телефон, кошелек — ваше лицо является уникальным платежным токеном. Но про другую сторону медали никто не говорит: если эти данные будут скомпрометированы, вы не сможете их поменять как логин и пароль. Они будут скомпрометированы навсегда. Никто не говорит про ошибки распознавания и способы возражения, которые несомненно должны быть у человека. Поэтому, естественно, пытаются заходить через понятные всем аргументы удобства и безопасности, закрывая глаза на катастрофические минусы технологии.

АР: Изначально, мы смотрели на технологию распознавания лиц в России как на решение проблемы с преступностью. И действительно, камеры с распознаванием лиц ее решали хорошо. Пока государство не начало добавлять туда оппозиционеров и заниматься отслеживанием протестующих, камеры с распознаванием лиц помогли найти много настоящих преступников, там счет на тысячи. Но побочных эффектов оказалось достаточно много. Побочные эффекты сильные и неприятные. Оглядываясь назад, лучше не стоило это делать в России. Тогда было непонятно, что у технологии есть обратная сторона. В авторитарных режимах ее точно не стоит использовать.

ГЮ: Каждая инновация заведомо содержит в себе некоторую идею, политическое мировоззрение. Чтобы технология внедрилась, у нее должен быть ключевой элемент собственной легитимации. Например, системы камер видеонаблюдения предлагают нам идею о том, что хорошо, когда все прозрачно. Хорошо, когда все наблюдается, хорошо, когда мы в случае чего можем увидеть преступников и за всем посмотреть. Что, как мы понимаем, крайне спорные идеи. Проблема в России сегодня в том, что нам не хватает альтернативного политического воображения. А как еще можно ловить преступников, если не с помощью камер видеонаблюдения? Мысль о том, что можно что-то сделать, чтобы преступников не появлялось, нам не приходит в голову, потому что нет коллективной саморегуляции. Например, кого в России можно убедить в том, что с помощью развития солидарности, а не надзора можно снизить уровень преступности?

СД: Мы видим пониженную веру в возможность повлиять на ситуацию. И большие утечки персональных данных только доказывают это. Например слив личных данных пользователей Яндекс Еда, когда в сети появилась клиентская база с именами, адресами заказов, временем заказа и т.д. Люди оказались полностью без механизмов групповой защиты в российском законодательстве. А человек сам по себе не находит достаточно сил и мотивации, чтобы заниматься защитой своих прав. Вот отсюда, наверное, общая проблема нигилизма и подхода, что мы и так уже давно не защищены.

Система так устроена, что ты должен принимать новые социальные правила, в которых корпорации и государство будут делать все, что хотят с твоими данными. Чтобы иметь достаточный уровень приватности, ты полностью должен уйти в оффлайн изгнание и отказаться от использования социальных благ. Мне кажется, вот на этом статусе-кво мы сейчас находимся. И ситуация не изменится, скоро мы будем находиться в том положении, когда нельзя будет получить паспорт, не сдав свою биометрию, которая будет использоваться в самых разных целях.

ГЮ: В России большая проблема с нормативным мышлением. Людям очень сложно поставить вопрос как правильно. Вопросы «как правильно» и «как хорошо» кажутся идиотскими. Как есть, так и хорошо. Ты ничего не поменяешь все равно. И это блокирует нормативное мышление.

Задача политики состоит ровно в том, чтобы предоставлять конкурирующие мировоззрения, которые подрывали бы позитивность. Они никогда ее полностью не подорвут, но они хотя бы какую-то часть поставят под сомнение и создадут зазор, в котором существует чувство дискомфорта. Но в России нет политики вообще, и поэтому позитивность просто полностью закрывает собой нормативность. То, что есть, начинает рассматривается как то, что должно быть. Если этому нет никакого политического вызова, никакой контр-позиции, которая бы представляла другие факты, то это начинает восприниматься как нормативно желательное. Так работает то, что называется нормализацией.

СД: Основное что мы видим сегодня, это монополизация технологии государством, что вызывает достаточно большую обеспокоенность. Например, Ростелеком является главным оператором единой биометрической системы. Он же занимается поставками видеокамер, поставками софта. В одних руках госпредприятия держат всю систему биометрической обработки данных. С точки зрения злоупотребления, по тем кейсам, которые мы имеем, она уже сейчас вызывает вопросы.

Сегодня нет критериев определения идентичности человека, нет определенных пределов и основания использования. То есть нет регламентов в публичном пространстве. Можно только предполагать, что есть внутренние документы и локальные акты, содержание которых мы не знаем. Это составляет большую проблему, потому что система является непрозрачной.

«Мы вообще ничего не знаем — кто имеет право загружать эти лица, кому и на каком основании предоставляются полномочия, какие документы предоставляются?»

АИ: На самом деле, охота за правозащитниками и обеспечение безопасности — это не самые важные интересы в использовании технологии распознавания лиц. У людей которые это делают, есть свои интересы и самый важный — это делать деньги. То есть сфера безопасности очень непрозрачная для регулирования и очень коррупционно-емкая. Акторы внутри системы воспринимают сферу распознавания лиц как проект на который направо и налево раздают госденьги и субсидии, а качество работы не проконтролировать. Нужды силовиков полностью обеспечены теми системами камер, которые давно стоят в метро, FacePay не добавляет к этому ничего. Он добавляет просто контракт на несколько миллионов рублей.


АР: У операторов системы нет строгого регламента и контроля над тем кого они могут загружать в базы наблюдения. Есть контроль на уровне оператора, но нет контроля на уровне ведомства. Например любой оператор системы перед тем, как залогиниться должен пройти верификацию по своему лицу. То есть очень легко раскопать если полицейский по просьбе друга загрузил какую-то фотографию. Вот с таким неправомерным использованием поборолись, но не поборолись с тем, что делает ведомство в принципе. То есть какие у них задачи и кого они загружают остается в серой зоне.

СД: Роскомнадзор [как надзорный орган по защите персональных данных], очевидно, не удовлетворяет ни одному из критериев независимости. У него нет полномочий, нет эффективной системы надзора за тем, как другие участники, в том числе государственные органы, используют биометрические данные граждан. И в этом плане в России не существует ни судебного надзора, ни прокурорского над тем, как госорганы в т.ч. силовики применяют технологию распознавания лиц и ограничивают в конституционные права граждан на тайну частной жизни. И, как мы видим, нет надзора на уровне независимого надзорного органа.

СД: У инноваций есть непросчитанные до конца риски, и о них надо предупреждать. Например, когда мы садимся в самолет, нас предупреждают каждый раз не курить и пристегнуть ремни. Понимая, что культура еще не сформирована на 100%, важно предупреждать об опасности, которая есть. Рано или поздно эти уведомления пропадут, но должно пройти какое-то время, за которое люди должны четко понять, что они имеют дело, например, с системой искусственного интеллекта, который может принимать решения, которые могут изменить нашу жизнь или использовать персональные данные. И это важно доносить. Поэтому я за то, чтобы такие уведомления были и в оффлайне, и в онлайне, когда человек имеет дело с подобными технологиями двойного назначения.

АИ: FacePay как раз старается быть незаметным и специально сделан не как камера. Когда я плачу по карточкам, то я даже могу не знать о том, что он существует. В криминологии камеры видеонаблюдения объясняются как эффект присутствия. Это условный маркер того, что пространство охраняется, за тобой следят, собираются данные и т.д. История с FacePay абсолютно другая, здесь камера спрятана и уже не является маркером присутствия.

АР: Общество еще не готово к этой технологии. У меня нет ответа как, как это безопасно внедрять. У меня есть плохой пример — Россия. Хорошего примера пока не было.