1.5. Зарождение проблемы: власть без прозрачности

В XX веке финансы начали подчиняться машинной логике, а в XXI веке машины стали теми, кто принимает финансовые решения, и это уже не метафора, а фундаментальный сдвиг в самой природе власти, связанной с деньгами, потому что контроль над финансовыми потоками перестал принадлежать человеку и оказался в распоряжении структур, протоколов и алгоритмов, которые остаются невидимыми, неподотчётными и неподконтрольными. Как писал Жан Бодрийяр: «Симулякр — это не ложь, это правда, утратившая контакт с реальностью» — и именно так выглядят сегодняшние цифровые финансы: система, которая имитирует заботу, но не знает, что значит отвечать.

На протяжении истории всегда существовала фигура, связанная с управлением деньгами, будь то сборщик податей, ростовщик, банкир или чиновник, с которым можно было договориться или, по крайней мере, понять его мотивацию. Но в цифровую эпоху посредник исчез, и на его месте возник интерфейс, который заменил личное суждение алгоритмическим решением, а человеческое взаимодействие — уведомлением в приложении.

Когда в 2023 году клиенты одного из ведущих британских нео-банков Monzo массово заявили о заморозке их счетов без объяснений и без указания сроков, банк сослался на внутреннюю политику и требования по борьбе с отмыванием средств. Но причины такого действия оставались закрытыми даже для самих пользователей, которые не знали, вызваны ли подозрения покупкой билета, переводом от родственника или необычным снятием наличных. Один из клиентов писал в соцсетях: «Это не банк — это коробка, которая решает за тебя и не разговаривает».

Сегодня решения относительно наших денег принимаются автоматически, без участия человека, на основе логик, которые нам не раскрываются. При этом эмоциональная и юридическая ответственность по-прежнему ложится на пользователя, потому что отказ в кредите воспринимается как личное поражение, блокировка счёта — как обвинение, а отклонение транзакции — как приговор. Хотя за этими действиями может стоять использование VPN, смена телефона или пребывание в «неблагополучном» районе. В одном случае в Индии женщине отказали в микрозайме после того, как алгоритм интерпретировал её поездки в сельскую местность как риск «нестабильного образа жизни».

В 2022 году исследование американского CFPB выявило, что алгоритмы кредитного скоринга занижали оценки определённым этническим группам. Это происходило не по злому умыслу, а потому, что модели обучались на исторических данных, содержащих системную дискриминацию. В результате реальные люди сталкивались с реальными последствиями, вызванными формально «нейтральной» системой. Как говорил Умберто Эко: «Нейтральный язык — это язык власти».

Алгоритмическая асимметрия возникает тогда, когда один из участников игры не знает её правил, и современная финансовая система именно такова, потому что пользователь видит лишь интерфейс. А банк располагает обширной информацией: моделью поведения, историей трат, социальным графом, устройством, с которого происходит вход, скоростью набора текста и другими данными, которые формируют поведенческий профиль и определяют исход запроса.

Решение о кредите может зависеть не столько от дохода, сколько от того, как быстро пролистаны условия договора, с какого IP-адреса пришёл запрос, в каком районе был пользователь и какие шаблоны поведения он демонстрировал в предыдущих действиях. То есть контроль осуществляется не по факту, а по вероятности — причём без объяснений. Один пользователь платформы Klarna сообщил в Reddit: «Я оплатил всё вовремя, но они снизили мой лимит — сказали, что алгоритм что-то пересчитал. Даже не знаю, что».

Современные финансы превратились из инструмента учёта в механизм повседневного наблюдения, потому что теперь каждая транзакция сообщает системе не только о сумме и получателе, но и о месте, времени, привычках, эмоциональном состоянии. Даже покупка напитка в определённое время может быть воспринята не как безобидное действие, а как маркер потенциального риска. В Сингапуре один банк использует данные о частоте заказов еды в ночное время как индикатор стресса и потенциальной кредитной нестабильности.

Мобильные приложения, установленные на смартфоне, собирают сотни параметров: уровень заряда, частоту перемещений, угол наклона телефона, скорость ввода текста и другие данные. На основе этого строится сложный и часто недоступный для самого пользователя поведенческий профиль, влияющий на кредитные решения, лимиты, предложения и ограничения. Как говорил Мишель Фуко: «Власть — это не то, что сдерживает. Это то, что производит», — и сегодня она производит наш профиль.

В Китае система Zhima Credit от Ant Group оценивает не только финансы, но и поведение в интернете, связи, географию перемещений. Итоговый рейтинг влияет на возможность взять кредит, арендовать квартиру, получить билет, оформить визу или даже устроиться на работу — и всё это происходит без прозрачности, с полным доверием к механизму, но без возможности понять, как он работает. Один молодой программист в Гуанчжоу узнал о падении своего рейтинга после того, как его друг оказался в «чёрном списке», и их частые встречи были расценены системой как риск социальной связи.

Сегодня человек доверяет не кассиру и не банку, а платформе. Но может ли он доверять тому, чью работу нельзя проверить? Алгоритм скрыт, логика непрозрачна, доступ к данным неочевиден, а согласие пользователя сводится к нажатию кнопки, открывающей дверь к тотальному контролю в обмен на мгновенное удобство. Как писал Юваль Ной Харари: «Когда алгоритмы знают тебя лучше, чем ты сам — власть уходит изнутри наружу».

Когда в 2021 году шведский стартап Klarna столкнулся с критикой за непрозрачные списания в системе BNPL-кредитов, выяснилось, что пользователи не понимали ни условий, ни графика платежей. Система списывала средства без напоминаний, а в ответ пользователи получали шаблонные письма от поддержки, утверждавшей, что всё работает правильно. В этом парадокс: клиент больше не субъект сделки, а просто пользователь интерфейса.

Сегодняшнее упрощение через UX-дизайн делает взаимодействие комфортным, но лишает понимания сути. Когда в Бразилии пользователи банков Nubank и Inter столкнулись с тем, что повышенный cashback оказался платной услугой, подключённой одним нажатием, но отменяемой только через сложную цепочку писем, стало ясно, что доверие к системе начинает превращаться в её главный ресурс — инструмент манипуляции.

Автоматизация создаёт иллюзию контроля, но на деле она формирует повторяющиеся шаблоны поведения, которые человек перестаёт осознавать: автоплатёж, уведомление, подписка — всё это становится не просто удобством, а сценарием, по которому живёт пользователь. И в этом сценарии инициатива уже не принадлежит ему. Как выразился Гиллес Делёз: «Мы больше не находимся в обществе дисциплины. Мы в обществе контроля».

Финтех-приложения, такие как Revolut или Monzo, предлагают инструменты бюджетирования, но одновременно продвигают предложения, встроенные в ту же систему: предупреждая о перерасходе, они тут же рекламируют решение. Таким образом сама система создаёт поведение, которому потом предлагает решение, оставаясь незаметной.

В условиях, где алгоритм принимает решение, а человек испытывает последствия, вопрос ответственности становится центральным. Но на него нет ответа, потому что ни один человек не может проследить всю цепочку — от UX до API, от дизайна до юридического документа. Каждый компонент системы выполняет свою функцию, но никто не отвечает за итоговое решение, которое остаётся без обсуждения.

Когда в 2022 году в США женщина подала в суд на банк за отказ в ипотеке, вызванный анализом её нестабильного дохода как фрилансера, суд отклонил иск, сославшись на то, что решение было принято системой, которая не обязана давать объяснение. И в этом суть проблемы: система работает, но она не отвечает.

Мы не перестали верить в деньги — мы просто перестали понимать, кому именно мы доверяем. И это не просто вызов, это основа архитектуры цифровой зависимости, в которой удобство становится ценой отказа от прозрачности, а статистика и код — инструментами повседневного подчинения. Именно поэтому главный вопрос, который мы должны себе задать, звучит так: готовы ли мы жить в мире, где всё работает, но никто не знает, как именно это устроено?