Воспаление цифрового придатка
Фото: ТАСС
«Цифровизация» — не средство экономического прорыва, а способ закрепления статус-кво. Россия десятилетиями гнала на Запад нефть, а теперь готовится стать ресурсной экономикой нового типа и экспортировать большие человеческие данные. Главное препятствие на этом пути — устаревшие аналоговые понятия вроде прав на неприкосновенность частной жизни.
Цифровизация заместила строительство храмов как новую русскую идею. Если в прошлом году сообщалось о вводе в эксплуатацию трех церквей ежедневно, то в этом году каждый день в новостях — установка диагностических нейросетей в больнице где-нибудь в Астрахани или в Сибири, систем искусственного интеллекта в Саратове и расширение в масштабах всей страны систем слежки за школьниками, учителями, больными, врачами, пассажирами, клиентами и кандидатами на рабочие места.
С легкой цифровой руки премьера Мишустина российские чиновники, недавно еще все как один рьяные хоругвеносцы, стали стихийными датаистами, то есть приверженцами идеи, что вся Вселенная состоит из потоков данных, а ценность любого феномена определяется его вкладом в их сбор и обработку. Модный философ Ной Харари сказал, что «мы можем принять весь человеческий род за единую систему обработки данных, и каждый человек в ней чип». Саратовский губернатор Валерий Радаев добавил: «В ближайшие три года завершить цифровизацию — это уже недостаточно. Время не стоит на месте».
Региональное начальство может игнорировать ветхие дома или проблемы с мусором, но уже начало метать громы и молнии по поводу недоустановки в заброшенных поселениях с закрытыми школами и больницами широкополосного Интернета — этого, по выражению Билла Гейтса, информационного шоссе, которое наконец-то выведет страну из ситуации прорыва разнообразных труб. «Сможем ли мы, в случае необходимости, ввести электронные пропуска?» — грозно спросил Валерий Радаев и успокоился, услышав в ответ: «Регион сможет ввести их в течение недели».
Оцифровке подлежит всё, что движется и не движется, по принципу: не можешь — научим, не хочешь — заставим. Новая национальная идея требует новых законов, требует их много и сразу. В основе принимаемых правительством актов лежит, во-первых, презумпция невиновности алгоритма и, во-вторых, принцип государственной собственности на любой оцифрованный человеческий опыт.
Искусственному интеллекту — зеленую улицу; человек, сойди на обочину, если не хочешь быть задавленным. Как сказал гарант конституции: «Нужно дать искусственному интеллекту больше данных, последовательно снимать подчас надуманные преграды для их использования».
Главное надуманное препятствие на пути неумолимого прогресса — это устаревшие аналоговые понятия типа прав человека. Есть коммерческая и банковская тайна — эти понятия уважаются и при цифровом режиме, базара нет, но претензии белковых агентов типа людей на тайну связи, переписки, телефонных переговоров, врачебную тайну, неприкосновенность жилища и прочий антиквариат просто смешны и ведут в условиях сетевого общества к опасной анархии и укрыванию налогов.
Да и свободы воли у белковых агентов никакой нет, об этом давно говорят экспертные Telegram-каналы, формирующие консенсус элит. Именно поэтому был стремительно принят и с 1 июля уже действует 123-й федеральный закон «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в городе Москве», который содержит общие слова о защите конституционных прав, но передает на усмотрение властей решение вполне конкретных вопросов, эти права по сути отменяющих. Опыт социального мониторинга и всевозможных абсурдных ограничений во время карантина показал, что в атмосфере страха и чрезвычайщины даже базовые права могут нарушаться легко и непринужденно, — а значит, дорога к отмене приватности как таковой открыта.
С одной стороны, из пространства человеческого опыта исчезает общественное: парки, скверы, площади, возможности собираться. С другой стороны, человеческое частное также перестает быть таковым, ведь индивидуальный опыт захватывается цифровым Левиафаном, приватизируется, продается и покупается. Заявление основателя Facebook Марка Цукерберга о том, что «будущее будет частным», следует понимать как «ваше будущее куплено нами».
Именно в этом контексте следует понимать предложение Министерства экономики обойти по факту конституционные нормы и принятые с их учетом законы «О связи», «О персональных данных» и «Об основах охраны здоровья граждан» для двух проектов: один касается применения ИИ для медицинских разработок фондом «Иннопрактика» и «Национальной базой медицинских знаний» (НБМЗ), во втором речь идет о сервисе для малого и среднего бизнеса, которым занимается Ассоциация больших данных (АБД). Согласно законопроекту Минэкономики, опубликованному 17 июля на regulation.gov.ru, упомянутые организации могут теперь не получать письменное согласие граждан на обработку их данных, перестают действовать также тайны связи, переписки, телефонных переговоров, а также врачебная тайна.
Интересно, что фонд «Иннопрактика», который хотел бы обрабатывать личные данные граждан без их письменного согласия, возглавляет Катерина Тихонова, о родстве которой с российским президентом ходит много слухов. На пресс-конференции 17 декабря 2015 года Владимира Путина спросили прямо, кем приходится ему Катерина Тихонова, — и он отказался отвечать на вопрос, исходя из соображений охраны тайны частной жизни.
Впрочем, иронию здесь увидят немногие: мы давно уже привыкли к асимметрии в отношении к тайне частной жизни между различными сословиями новой России. В дивном новом мире приватность, уединение и неприкосновенность жилища из когда-то неотъемлемого права окончательно превращается в привилегию избранных.
Но отмена приватности и захват государством для передачи приближенным компаниям индивидуального человеческого опыта — еще не все новации. Министерство экономики внесло на рассмотрение правительства «Концепцию развития регулирования в сфере технологий искусственного интеллекта (ИИ) и робототехники до 2024 года». Как и большая часть документов по искусственному интеллекту, эта концепция также родилась в недрах Сбербанка. Ее разработка началась прошлым летом, группу юристов и экспертов возглавил исполнительный директор Сбербанка Андрей Незнамов. Позднее к ней присоединились представители крупных компаний, таких как «Яндекс», МТС, Mail.ru, представители Национальной ассоциации участников рынка робототехники (НАУРР) и другие. На последнем этапе работу лоббистов российского ИТ-бизнеса санкционировало Минэкономики, после чего документ приобрел статус правительственного.
Впрочем, идеология концепции с самого начала не менялась, оставаясь вполне либертарианской. Она призвана по максимуму снять с участников ограничения, «препятствующие появлению или апробации цифровых инноваций». Это не удивительно — ведь представители ИТ-компаний в один голос жалуются на трудности в сборе массивов данных, необходимых для обучения ИИ. При этом пункты, связанные с ответственностью государства или компаний за возможный ущерб от действий ИИ-систем, звучат в продвигаемом министерством документе весьма размыто. Например, провозглашается «приоритет благополучия человека» без объяснения, что под этим благополучием понимается и благополучие какого конкретного человека имеется в виду.
Во всем мире сейчас набирают силу концепция «человекоцентричного» искусственного интеллекта, «достойного доверия» ИИ и так далее. В концепции, одобренной Минэкономики, ничего конкретного на эту тему нет.
Создается впечатление, что лозунг документа о том, что «конечной целью развития технологий ИИ и РТ, направляемого посредством регуляторного воздействия, является повышение благосостояния и качества жизни граждан», придуман лишь для того, чтобы несколько прикрыть главную цель регулирования — снятие всех возможных ограничений.
Об этом говорят и другие важные пункты продвигаемого документа — например, что «применение систем ИИ не должно заведомо для разработчика приводить к нарушению правовых норм». То есть разработчик несет ответственность лишь в случае доказанного злого умысла. Или взять тезис о подконтрольности ИИ-систем человеку «в той мере, в которой̆ это возможно с учетом требуемой степени автономности систем ИИ и РТ и иных обстоятельств». Область возможного глубоко спекулятивна, и из дальнейшего текста становится ясно, что и здесь есть много лазеек, за которыми легко укрыться.
Призыв концепции к риск-ориентированному подходу при принятии конкретных регуляторных решений — еще один троянский конь, подготовленный крупными игроками для того, чтобы при помощи государства взломать новые рынки. Ведь при этом подходе размер потенциального вреда от новых технологий сравнивается с потенциальным положительным эффектом от их внедрения. Понятно, что первое можно занизить, а второе завысить. Пройдут годы, прежде чем станет ясно реальное положение дел, а культура высокотехнологичных компаний заключается в максимально быстрой фиксации прибыли и уходе от возможных разбирательств.
Не стоит обольщаться и надеждой на саморегулирование отрасли. Большие акулы, такие как Сбербанк, «Яндекс» или Mail.ru, уже почувствовали запах крови и хотят получить доступ к бесплатным большим данным населения и госзаказу.
Доступ как минимум не худший, чем у их западных конкурентов. Слово «конкуренты» здесь, конечно, подходит не слишком, ибо Google или Facebook по капитализации на пару порядков превосходит тот же «Яндекс». Глобальное масштабирование бизнеса дает ведущим американским и китайским компаниям масштаб сетевых эффектов и эффектов обучения, нереальный для достижения российскими игроками. Кроме того, отнюдь не российские компании лидируют в новых разработках систем ИИ. Отечественным компаниям, идущим по пути догоняющего развития, остается надеяться лишь на протекционизм правительства и госзаказы, что может лишь усугубить отставание.
Все это приводит к выводу о том, что продвигаемое правительством регулирование существенно ограничит права населения, оставив его, по сути, один на один с прожорливым цифровым Левиафаном, который сможет взять под контроль и радикально изменить поведение миллионов людей. Продвигаемое регулирование позволит собирать недоступные до сих пор данные, разделив людей на сословия.
Но очередная жертва населения (которое уже пожертвовало повышением пенсионного возраста) едва ли послужит для становления отечественных ИИ-систем. Рынок устроен так, что все успешные ИИ-системы сегодня носят глобальный характер. Поэтому данные, собираемые из-под палки российским правительством и бизнесом, скорее всего будут проданы как дешевое сырье более крупным рыночным игрокам — скорее всего, из США, где зарегистрированы дочки наших главных IT-компаний.
Да власти и сами, судя по всему, не очень-то верят в новое русское чудо. В президентском указе 2018 года был пункт о том, что РФ должна войти в пятерку крупнейших экономик мира (сейчас по размеру ВВП Российская Федерация находится на 11-м месте и вот-вот пропустит вперед Южную Корею. — И. Ш.). Из документа о национальных целях развития России до 2030 года этот пункт исчез вместе с задачей победы над бедностью, и пресс-секретарь президента Дмитрий Песков сказал в комментарии, что цели должны ставиться реальные.
Таким образом, экономического чуда в России не ждут, и цифровизация — средство отнюдь не экономического прорыва, а в лучшем случае закрепления статус-кво. Десятилетиями Россия гнала на Запад нефть и теперь готовится стать ресурсной экономикой нового типа, гнать новую нефть — большие человеческие данные.
Подписывайтесь на нас:
Еще по теме
