Алгоритм коронавируса

Опора на big data и нейросети, без которых сейчас не принимается ни одно большое решение, возвращает нас во времена до Галилея. Упраздняются просвещение, наука, право иметь концепции, право выбора и свобода воли. При этом сам искусственный интеллект считается элементом прогресса и демократии.

Наблюдая за разгоревшейся информационной войной между США и Китаем, можно увидет, что исполнители разыгрывают ее как по нотам, только вот в финале партитуры — окончательное уничтожение глобальной экономики. Может ли странным оркестром, где свои места за инструментами заняли Трамп, председатель Си, другие политики, экономисты, эксперты, журналисты, дирижировать кто-то один? И кому был бы выгоден такой сумасшедший концерт?

Начнем с ответа на второй вопрос. Бенефициарами нынешнего карантинного капитализма и будущей экономики перманентной катастрофы являются крупные мировые технологические гиганты плюс ФРС США. Каким-то странным образом перед самой бедой у Google, Amazon, Facebook и Microsoft образовались большие запасы кеша, и скоро они смогут скупить за бесценок все, что посчитают нужным. Уже сегодня этой скупкой вовсю занимается ФРС, попросту включив печатный станок. Несмотря на эпидемию, капитализация Amazon резко выросла, корпорация нанимает десятки тысяч людей из миллионов, каждую неделю теряющих работу. Эта компания подмяла под себя американский ретейл, эксперты предсказывают ей по итогам большой коронавирусной распродажи 10 % американского рынка, но, если случится катастрофа или серия катастроф, вполне возможно, детище Джеффа Безоса останется единственным игроком.

Но дело не ограничивается скупкой резко подешевевших акций. Уже сегодня вырисовываются контуры дивного нового мира, в котором «большая цифра» в союзе — до поры до времени — с государствами открыто управляет человеческими массами.

Значит ли это, что искусственный интеллект — режиссер коронавирусной постановки? Может ли он вести собственную «большую игру»?

Ответ на первый вопрос отрицателен: на пути к созданию так называемого общего искусственного интеллекта еще очень много препятствий, некоторые из них кажутся непреодолимыми.

На второй вопрос ответить сложней, ведь для ведения «большой игры» на уничтожение экономики через принятие политиками гибельных решений вполне достаточно сетевого взаимодействия «узких ИИ», каждый из которых выполняет свою задачу, а сеть работает по принципу роя — не без участия человека или людей, которые принимают решения. Или считают, что они принимают решения.

Все в рой

Уже сегодня в распоряжении правительств и корпораций находятся высокоэффективные и прекрасно масштабируемые системы с ИИ, которые способны не просто отслеживать, но и управлять поведением как отдельных людей, так и сообществ, наций и их лидеров.

Человек — это статичная и очень уязвимая система, подверженная усиливающимся атакам все более цепких алгоритмов ИИ. Алгоритмы установили практически полный контроль над информацией, которую мы потребляем, а корпорации и правительства вкладывают в новые разработки десятки миллиардов долларов, чтобы «стать лидерами» в управлении человеческим поведением. Это поведение рассматривается сегодня в терминах бихевиоризма и «роевого мышления».

Ключевая роль в управлении поведением и создании «человеческого роя» принадлежит соцсетям, особенно компании Facebook, у которой есть приложения WhatsApp и Instagram. Недавно консорциум под руководством Facebook заявил о возобновлении подготовки к запуску собственной цифровой валюты Libra, предназначенной прежде всего для самых слабых стран мира. Именно по этим странам, скорей всего, придется главный удар если не самой эпидемии коронавируса, то сопутствующего экономического кризиса. Очень важны для управления и алгоритмы Google — ведь это не только ведущий в мире поисковик «всего», но и ИИ-системы геолокации, коммуникации и дешевой мобильной связи через систему Android.

Как работает управление массами? Прежде всего, через сами соцсети, но и опосредованно, через СМИ, включая популярных блогеров, у которых своя важная роль в выработке роевого мышления. СМИ и блогеры чутко реагируют на любое изменение алгоритмов Facebook и Google, стараясь под них подстроиться. Так алгоритм задает даже самым «независимым» из них повестку, поощряет показами «правильный» контент, убирает с глаз долой «неправильный», а порой и просто отправляет источник неугодной информации в «бан».

Западный политик любого уровня, идущий наперекор роевому консенсусу, рискует проиграть выборы, потерять свое положение и статус. Исключения типа Трампа лишь подтверждают правило.

Казалось бы, национальные лидеры менее всего подвержены воздействию роевого мышления и влиянию алгоритмов. У них есть собственные аналитические центры и данные от разведывательных агентств. Но лидеры склонны подозревать — порой небезосновательно, — что у авторов подобных записок есть собственная тайная повестка. С другой стороны, лидеры склонны доверять якобы «объективным» данным «бигдаты» и аналитике, полученной на этой основе. Приемы психологической манипуляции тоже никто не отменял. На каждого из них даже по открытым данным можно составить цифровой профиль, который позволит алгоритму «подталкивать» их в «правильном» направлении. Не стоит забывать разоблачения Эдварда Сноудена, который показал, как работает система Агентства национальной безопасности США PRISM, отслеживающая поведение в том числе мировых лидеров — например, таких верных союзников США, как канцлер Германии Ангела Меркель. 

Алхимия «бигдаты»

В самом способе обработки сырых данных сейчас скрываются большие возможности для манипуляций. Результаты моделирования, на основании которых принимаются важные решения, стали принципиально непроверяемы.

Все дело в фундаментальном изменении подхода к истине в эпоху «постправды» и «бигдаты». Наука после Галилея основывалась на законах, выраженных четкими формулами, идеями и концепциями, от которых кругами расходились теории. Декарт считал интуицию, вдохновенное проникновение в суть вещей, самым верным методом познания, и главные концепции науки, какой мы ее знаем, были прозрениями великих ученых — Галилея, Ньютона, Эйнштейна, Шрёдингера и других.

Кроме того, ценность рациональных аргументов не зависела от того, кто их выдвигает. Так, идеи Циолковского не были отвергнуты только потому, что он был простым провинциальным учителем и у него не было официального статуса в науке: их правильность была доказана опытом, полетом первого человека в космос.

По инерции этот подход продолжает называться «наукой», но он радикально отличается от просвещенческой науки. Более того, «когнитивные ученые» и «нейроученые», сделавшие «бигдату» научным мейнстримом, высмеивают само право ученых выдвигать концепции и упраздняют все, что не укладывается в прокрустово ложе их метода. Эти люди называют себя сторонниками демократии и прогресса, но, придя к власти, становятся нетерпимыми и преследуют все, что выходит за рамки их представлений.

На «бигдату», обработанную нейросетями для производства предсказаний, и опираются сегодня при принятии решений институты, включая высшую власть — примерно, как император Рудольф II опирался на алхимиков.

Можно ли объединить все эти системы в одну, которая бы направляла мировых лидеров, подталкивая их к нужным решениям? Чтобы ответить на этот вопрос, достаточно обратиться к вооруженным ИИ алгоритмам, которые сегодня полностью управляют финансовыми рынками. 

Киборг-финансы и террор

Искусственные нейросети для «киборг-финансов» сегодня управляют покупкой и продажей активов в режиме реального времени — брокерам-людям на бирже просто нечего делать. Так, по мнению экономиста Сергея Глазьева, обрушение рубля в марте 2020 года было значительно усилено стадами торговых ботов, настроенных на автоматическую привязку курса рубля к цене нефти. На финансовых рынках работают самые продвинутые ИИ-системы, которые генерируют и пишут пресс-релизы и статьи о финансовых результатах компаний, мгновенно распространяя их по сети. Истолкование новостей также уже давно перешло от людей к машинам. ИИ анализирует воздействие на рынок публичных заявлений ньюсмейкеров, реакцию населения и моделирует потенциальный эффект тех или иных действий, покупая, если надо, цифровые профили тех, на кого нужно оказать воздействие. Facebook в 2010-е годы создал «социальный граф» — то есть глобальную карту пользователей и их взаимоотношений, — это крупнейшая база данных в мире. Может ли такая система распространять мемы, например «китайский вирус», и вызывать эмоциональное заражение — вопрос риторический.

Может ли подобная система — или сеть ИИ-агентов — создать в глобальном масштабе ситуацию выбора между экономической катастрофой и массовым мором? Вопрос остается открытым, но ничего невозможного в этом нет.

Разделавшись с Просвещением, мы получаем сознательную асимметрию знаний, при которой те, кто решает, определяют меру знания и возможности остальных. У лидера создается иллюзия, что он управляет ситуацией, что все под контролем. Но на деле контроль может находиться у алгоритма, который обладает разумом меньшим, чем интеллект дождевого червя. Алгоритма, запущенного людьми, просчитавшими свою собственную выгоду, которая заключается, например, в тотальном разрушении экономики как она есть и ее полной замене «экономикой цифры». Или, например, в создании пандемии страха, в нарастании террора, за которым последует умиротворение на принципах цифрового тоталитаризма.