В массовом сознании существует два популярных объяснения очевидной деградации веб-технологий. Конспирологическое — корпорации изначально хотели превратить пользователей в источник прибыли и потому сознательно построили системы манипуляции. Это неинтересно, это мы разбирать не будем. Техноутопическое (самое популярное) — сами технологии нейтральны, а все проблемы вызваны исключительно человеческой жадностью. Это тоже слишком просто — конечно, технологии не нейтральны, и тот же ChatGPT это не «просто инструмент» (так могут думать только технари, не читавшие Маклюэна, Мамфорда и вообще гуманитарную теорию про технологии).
Давайте попытаемся выяснить, как все было на самом деле и чем карта отличается от территории. И кто же виноват в том, что «теория мертвого интернета», некогда тоже конспирология, уже почти стала реальностью — когда боты читают статьи, написанные ботами, боты пишут комментарии под этими статьями, чтобы поднять их в выдаче для других ботов.
Благими намерениями…
Исторически абсолютное большинство технологических систем — что чертовски логично — создавалось для решения конкретных реальных задач. Поисковые системы помогали ориентироваться в растущем интернете. Социальные сети упрощали коммуникацию. Рекомендательные алгоритмы помогали находить интересный контент среди миллионов вариантов.
Когда же начались проблемы? Вряд ли можно назвать конкретный год, но скорее всего примерно тогда же, когда оптоволокно окончательно заменило модемы, Цукерберг придумал лайки, а веб в целом торжественно объявил, что он теперь «веб 2.0». По поводу последнего, кстати, критик технооптимизма Евгений Морозов отмечает забавный и совершенно не очевидный сегодня факт — на самом-то деле главным смыслом нового термина «веб 2.0» было отмежеваться от кризиса пузыря доткомов 2001 года. Типа, у нас теперь новый веб, чистенький, с иголочки, красота, да и только.
К 2026 году, правда, уже даже самым отчаянным технооптимистам должно было стать понятно, насколько этот веб 2.0 загадили те самые технологии, некогда обещавшие революцию (а веба 3.0 с метаверсами и прочим по какой-то причине не получилось).
Итак, в течение нескольких вполне блаженных лет — примерно с середины до конца 2000-х — веб процветал. Все те же самые технологии, известные нам сегодня (кроме горячо любимого автором «ИИ»), уже появились, но еще не успели испортиться, и онлайн-бизнесы во главе с Amazon и их подражателями процветали.
Скатывание в бездну началось вместе с масштабированием. Закон Гудхарта, помните такой? Этот закон еще все резко начали вспоминать на Хабре в 2025 году, когда его стал рекомендовать «ИИ» — что забавно, в качестве объяснения, почему «ИИ» все испортил.
Любая наблюдаемая статистическая закономерность склонна к разрушению, как только на нее оказывается давление [с целью повышения прибыли].
Чарльз Гудхарт, 1975
А без такого давления, разумеется, никак. Ведь каждая успешная система нуждается в метриках. Поисковику нужно понимать качество выдачи. Социальной сети нужно измерять вовлеченность. Рекламной платформе необходимо оценивать эффективность объявлений. Инвесторам нужны показатели роста. И т.д., и т.п.
Постепенно эти метрики начинают превращаться из инструмента измерения в цель существования системы (и порождать ради обслуживания этих метрик мириады должностей-посредников, которые иначе как бредовая работа не охарактеризовать).
Еще раз: когда показатель становится целью, он перестает быть хорошим показателем. Первоначально метрика помогает приблизиться к желаемому результату. Но как только люди начинают оптимизировать систему непосредственно под нее, связь между показателем и реальной целью начинает разрушаться. Если успех поисковика измеряется количеством переходов — появляются SEO-фермы. Если успех социальной сети измеряется временем пребывания пользователя — возникает бесконечная лента рекомендаций. Если успех платформы определяется ростом пользовательской активности — алгоритмы начинают поощрять наиболее эмоциональный и конфликтный контент.
И так далее, и тому подобное.
Таким образом, проблемы современного интернета являются не следствием технических ошибок и не результатом злого умысла отдельных компаний. Это совершенно закономерный результат длительной оптимизации сложных систем под ограниченный набор измеримых показателей.
Семантическое ядро вместо мозга
Сегодня поисковые системы («пойди погугли!») — это просто факт повседневной жизни, доживающий, впрочем, последние дни (говорят, скоро Google уберет традиционную поисковую строку, и останется только пускающая слюни и галлюцинирующая нейровыдача — вот тогда заживем!).
Легко забыть, какую проблему поисковики решали изначально. Хотя интернет девяностых годов был значительно меньше современного, ориентироваться в нем было гораздо сложнее — так как пользователи переходили по каталогам сайтов, вручную составленным спискам ссылок и тематическим директориям.
По мере роста количества веб-страниц этот подход становился все менее жизнеспособным. Именно в этот момент поисковые системы начали восприниматься не просто как удобный сервис, а как необходимый элемент инфраструктуры сети. Их задача выглядела удивительно амбициозной: научить машину определять, какие страницы действительно заслуживают внимания пользователя.
Особенно элегантным решением выглядел разработанный Сергеем Брином алгоритм PageRank, из которого, собственно, и возник впоследствии Google. Его красота заключалась в том, что он использовал уже существующую структуру интернета. Логика была заимствована из академической среды: если научную статью часто цитируют другие исследователи, это свидетельствует о ее значимости (так называемый индекс цитирования). Точно так же и веб-страница, на которую часто ссылаются другие сайты, с высокой вероятностью содержит полезную информацию. Вместо того, чтобы пытаться понять содержание каждого документа, PageRank анализировал сеть связей между ними.
На этом этапе казалось, что идеальное решение найдено. Владельцы сайтов были заинтересованы в создании качественного контента, поскольку именно он привлекал ссылки. Поисковик был заинтересован в поиске полезных страниц, поскольку от качества выдачи зависела его популярность среди пользователей. Метрика и реальная цель совпадали настолько удачно, что многим казалось, будто проблема поиска информации наконец решена.
Что же пошло не так? Да то же самое, что будет повторяться снова и снова на протяжении всей истории цифровых технологий. Пока ссылка служила индикатором качества, алгоритм работал прекрасно. Но как только владельцы сайтов поняли, что ссылки влияют на позиции в поисковой выдаче, ссылка перестала быть просто индикатором и превратилась в ресурс.
Показатель, который изначально использовался для измерения качества, стал целью для оптимизации. Если ссылки помогают занять более высокое место в результатах поиска, значит, ссылки необходимо получать любой ценой. Очень быстро появились биржи ссылок, сети взаимного цитирования, искусственные каталоги сайтов и целые фермы веб-страниц, существовавшие исключительно для передачи поискового веса другим ресурсам.
И опять же: никто из сторон этого процесса не действовал иррационально. Владельцы сайтов стремились увеличить аудиторию. Поисковые системы стремились улучшить качество поиска. Пользователи хотели быстрее находить нужную информацию. Каждый участник системы действовал в соответствии со своими интересами.
Результат оказался, впрочем, весьма предсказуем: вместо того, чтобы стимулировать создание полезного контента, поисковые алгоритмы начали стимулировать создание контента, который выглядел полезным для самих алгоритмов.
И с тех пор, уже более 20 лет, мы находимся здесь. Миллионы страниц начали проектироваться не вокруг потребностей читателя, а вокруг предполагаемых предпочтений поисковых роботов. Значительная часть современного веба существует в своеобразной промежуточной зоне между информацией и рекламой. Пользователь ищет инструкцию по настройке роутера, рецепт блюда или ответ на технический вопрос, но вместо краткого и точного объяснения получает многостраничный текст (вы знаете этот шаблон — когда рецепт приготовления картошки начинается с истории открытия Америки Колумбом), наполненный повторениями, второстепенными подробностями и фразами, оптимизированными под поисковые запросы.
Эти материалы зачастую выглядят как статьи, но создаются не потому, что автору есть что сказать. Их главная функция заключается в том, чтобы занять место в поисковой выдаче. В итоге интернет оказался забит текстами, которые никто не хотел писать и которые никто особенно не хотел читать, но которые прекрасно выполняли (до определенного момента, когда с появлением «ИИ» и экономией на копирайтерах их стало СЛИШКОМ много) свою главную задачу — привлекали алгоритмический трафик.
Каждый новый показатель качества рано или поздно становился объектом оптимизации. Каждое новое правило порождало новые способы его обхода. Гонка между поисковыми системами и индустрией SEO постепенно превратилась в один из самых масштабных примеров эволюционной борьбы в истории цифровой экономики.
Структурно именно эта история оказалась первым предупреждением о том, что произойдет позднее с социальными сетями, рекомендательными алгоритмами и платформами «ИИ». В дальнейшем тот же механизм будет воспроизводиться снова и снова — только уже не на уровне веб-страниц, а на уровне человеческого внимания, поведения и даже производства информации как таковой.
От крипты до метавселенных: когда метрика становится продуктом
Закон Гудхарта (который, по сути — просто наблюдение умного человека за тем, как работает капитализм) оказался универсален применительно к любым технологическим трендам.
Выполняется один и тот же алгоритм: новая технология начинает свое существование с решения реальной проблемы. Затем вокруг нее возникает определенный набор метрик успеха. Потом участники рынка начинают оптимизировать систему под эти метрики. И наконец, наступает момент, когда показатели продолжают расти, а первоначальная цель постепенно исчезает из поля зрения.
То же самое случилось с криптовалютами. Изначально идея выглядела вполне понятной и даже во многом благородной: предложить альтернативу централизованным финансовым институтам, уменьшить зависимость от банковских посредников и создать систему денежных переводов, не требующую доверия к конкретной организации. Понятно, что прекраснодушные мечты в любом случае бы разбились о реальность, но, по крайней мере, сами заявленные цели были достаточно конкретными и понятными.
По мере роста индустрии произошло закономерное гудхартовское смещение акцентов. Все больше внимания стало уделяться не использованию криптовалют в качестве средства расчета, а динамике их рыночной стоимости. Обсуждение технологии постепенно уступило место обсуждению цены токенов. Возникла ситуация, в которой успех системы все чаще измерялся не количеством реальных транзакций и не удобством использования, а ростом капитализации, объемами торгов и скоростью удорожания активов.
Все как и с SEO: метрика начала вытеснять первоначальную задачу. Точно так же, как рынок международного обмена валют, FOREX, возникший после указа Ричарда Никсона в 1971 году с целью поддержки американской экономики и для удобства финансовой регуляции, очень быстро стал вещью в себе и пристанищем спекулянтов — которым остается и до сих пор, 55 лет спустя.
В какой-то момент значительная часть криптоиндустрии фактически перестала заниматься решением финансовых проблем и сосредоточилась на производстве новых объектов для спекуляции. Многие проекты могли демонстрировать впечатляющий рост оценки при полном отсутствии практического применения. Однако, с точки зрения метрик, для инвесторов система выглядела успешной.
Ничего не напоминает? Правильно, ровно все то же самое произошло и с NFT, и с метавселенными. Все быстро забыли о создании новых форм цифрового взаимодействия, совместной работы и присутствия в виртуальных пространствах. На первый план вышло другое: объемы инвестиций, количество зарегистрированных пользователей, стоимость виртуальной недвижимости и другие показатели, которые было удобно демонстрировать на презентациях для акционеров.
В результате значительная часть разговоров о метавселенных свелась не к обсуждению того, какие задачи они решают, а к обсуждению масштабов ожидаемого рынка. Что было потом, все знают.
Карта и территория
Посмотрите на историю крупных технологических пузырей последних двадцати лет: всегда на определенном этапе разговор начинает вестись преимущественно вокруг количественных показателей. Количество пользователей. Количество регистраций. Количество скачиваний. Объем привлеченных инвестиций. Рыночная капитализация. Рост аудитории. Ежемесячная активность пользователей. Все эти метрики обладают одной важной особенностью: они позволяют измерять прогресс даже тогда, когда становится все труднее объяснить, какой именно общественной или технической проблеме этот прогресс соответствует.
Особенно если он не соответствует уже ничему, кроме желания заработка.
Впрочем, тут тоже нет никакого заговора: большинство стартапов существуют в условиях постоянного давления со стороны инвесторов, которым необходимо демонстрировать рост. При этом многие из заявленных технологических революций требуют десятилетий работы и не дают быстрых результатов. В такой ситуации возникает естественное искушение заменить долгосрочные цели краткосрочными показателями. Если невозможно быстро доказать, что продукт меняет мир, всегда можно показать график роста пользовательской базы.
Постепенно возникает своеобразная экономика метрик, в которой цифры начинают жить собственной жизнью. Пользователи регистрируются ради увеличения пользовательской базы. Контент публикуется ради роста вовлеченности. Стартапы привлекают инвестиции ради следующего раунда инвестиций. Токены выпускаются ради повышения капитализации. Каждая отдельная операция выглядит рациональной, но в совокупности система все дальше удаляется от тех задач, которые когда-то оправдывали ее существование.
Можно сказать, что метрики изначально создаются буквально как карта реальности — упрощенная модель, позволяющая оценивать сложные процессы с помощью нескольких чисел. А потом карта начинает восприниматься как сама реальность, а на территорию все забивают. Все это очень напоминает ситуацию когда навигатор в такси ведет тебя по «самому короткому» пути, но не учитывает, что этот путь — переулок с полуметровыми ямами в глубину и ехать по этой «короткой» дороге ты будешь на самом деле дольше чем если поедешь по более длинному пути с покрытием из ровного асфальта.
Компания может демонстрировать прекрасные показатели вовлеченности при ухудшении качества продукта. Социальная сеть может увеличивать время использования, одновременно снижая удовлетворенность аудитории. Стартап может наращивать капитализацию, так и не приблизившись к решению заявленной проблемы. Цифры продолжают говорить об успехе даже тогда, когда реальность начинает говорить об обратном.
Причем наиболее наглядно этот механизм проявляется даже не в цифровой индустрии, а в потребительских товарах. В романе «Карта и территория» французского писателя Мишеля Уэльбека герой с тоской вспоминает несколько вещей, которые считал идеальными: ботинки, ноутбук и куртку. Все они исчезли с рынка несмотря на то, что полностью устраивали своих покупателей.
Этот монолог выглядит как сатирическое преувеличение, однако он затрагивает важную особенность современной экономики. С точки зрения потребителя идеальный товар — это товар, который больше не нужно улучшать. С точки зрения бизнеса идеальный товар наоборот может оказаться проблемой. Покупатель, который нашел свою идеальную куртку и хочет лишь периодически покупать такую же, практически не создает роста. Поэтому рынок оказывается заинтересован не столько в окончательном удовлетворении потребности, сколько в ее постоянном воспроизводстве.
– За всю мою практику потребителя, – сказал он, – мне попалось всего три идеальных товара: ботинки Paraboot Marche, ноутбук Canon Libris со встроенным принтером и куртка с капюшоном Camel Legend. Я их обожаю и готов всю жизнь провести с ними, периодически закупая такие же модели по мере изнашивания предыдущих. Между нами установились оптимальные отношения, сделавшие из меня счастливого потребителя. Я не был так уж счастлив, со всех точек зрения, но хотя бы имел возможность систематически приобретать очередную пару любимых башмаков. Пустячок, а приятно, особенно когда личная жизнь так скудна. Но даже этой примитивной радости меня лишили. Через несколько лет мои обожаемые товары исчезли из магазинов, их просто-напросто сняли с производства, а моя несчастная куртка Camel Legend, наверняка самая красивая куртка, когда-либо видевшая свет, вообще прожила всего один сезон…
– Заплакав медленными крупными слезами, писатель подлил себе вина. – Это так жестоко, знаете, чудовищно жестоко. Даже самые мелкотравчатые виды животных тратят на вымирание тысячи, если не миллионы лет, а потребительские товары стираются с лица земли за считанные дни, и второй попытки у них не будет, им остается лишь покорно сносить бессовестный фашистский диктат маркетологов, которые, видите ли, лучше всех знают, чего хочет потребитель, и, улавливая в настроениях оных потребителей ожидание новизны, обрекают их на безнадежные изнурительные поиски и вечное блуждание между прилавками с постоянно изменяющейся продукцией.
«Карта и территория» была написана 16 лет назад, как раз в то время, когда начали четко очерчиваться контуры той реальности экономики внимания, метрик и веб 2.0, в которой мы с вами все до сих пор живем.
А жалоба героя Уэльбека — удивительно созвучна истории цифровых платформ. Он ведь на самом деле жалуется не на исчезновение куртки, а на то, что система перестала оптимизироваться под удовлетворение потребности и начала оптимизироваться под оборот. Поисковые системы должны были помогать находить знания, социальные сети — поддерживать общение, рекомендательные алгоритмы — подбирать интересный контент. Но как только успех этих систем начали измерять через показатели роста, вовлеченности и монетизации, они стали все меньше ориентироваться на состояние, в котором пользователь окончательно доволен результатом.
Ведь удовлетворенный пользователь перестает генерировать метрики и быть источником роста циферок в отчетах. Он не ищет новинок, не сравнивает модели, не читает обзоры, не совершает импульсивные покупки и вообще выпадает из экономического цикла. Для компании это означает остановку важных метрик: частоты покупок, среднего чека, объема продаж, темпов роста.
То есть происходит ровно то же самое, что мы уже наблюдали в поисковых системах и социальных сетях. Первоначальная цель — удовлетворенный пользователь — оказывается заменена ее количественным суррогатом. Компания начинает оптимизироваться не под создание идеального (или хотя бы способного прослужить дольше пары лет) товара, а под показатели продаж, обновлений и оборота продукции.
Система, живущая метриками, неизбежно начинает предпочитать процесс результату.
Такие вот дела.
Ну и выходит на практике в итоге — что?
Правильно:
Эншиттификация
В 2023 году Американское диалектологическое общество выбрало enshittification словом года. В 2024 году Австралийский национальный словарь Маккуори (Macquarie Dictionary) также выбрал его словом года.
Вообще говоря, «эншиттификацию» можно выбирать словом года каждый год просто потому, что это универсальное следствие из Закона Гудхарта, которое становится все нагляднее.
Истории поисковых систем, социальных сетей, криптовалют, генеративного ИИ и множества других технологий выглядят не как набор случайных совпадений, а как проявления одного и того же механизма — необходимости переводить сложные человеческие цели в набор измеримых показателей. И всякий раз, когда эти показатели становятся главной целью системы, начинается медленное, почти незаметное вырождение первоначального замысла.
Придумавший слово «эншиттификация» канадский писатель-фантаст и публицист Кори Доктороу описывает этот принцип так:
Вот как умирают платформы: сначала они делают хорошо своим пользователям; затем делают плохо пользователям, чтобы сделать хорошо своим клиентам-компаниям; наконец, они делают плохо клиентам-компаниям, чтобы забрать всю прибыль себе. И тогда они умирают. Я называю это дерьмофикацией, и это, по-видимому, неизбежное следствие сочетания той лёгкости, с которой платформа может поменять структуру распределения прибылей, с природой «двухстороннего рынка», где платформа служит прослойкой между покупателями и продавцами, держа и тех, и других друг у друга в заложниках и забирая себе все большую долю от проходящей через неё прибыли.
Как уже говорилось выше, любая успешная цифровая платформа начинает свой путь с борьбы за пользователей. На этом первом этапе она старается быть максимально полезной, удобной и щедрой. Сервис предлагает функции, которые еще не успели монетизировать, снижает комиссии, улучшает качество рекомендаций и зачастую работает себе в убыток ради роста аудитории. Пользователь в этот момент действительно является главным приоритетом, поскольку именно от его лояльности зависит выживание платформы.
Когда критическая масса пользователей достигнута, появляется следующая группа интересов — рекламодатели, продавцы, издатели, создатели контента и прочие коммерческие партнеры. На втором этапе платформа начинает извлекать выгоду из доступа к накопленной аудитории. Алгоритмы постепенно перенастраиваются, чтобы обслуживать уже не только интересы пользователей, но и интересы тех, кто готов платить за внимание этих пользователей. В лентах появляется все больше рекомендаций, поисковая выдача наполняется спонсируемыми результатами, а доступ к аудитории начинает регулироваться внутренними правилами платформы.
Однако наиболее интересное (собственно, «эншиттификация» по Доктороу) происходит на третьем этапе. Когда пользователи уже привыкли к сервису, поставщики зависят от него как от канала дистрибуции, а сетевые эффекты делают уход все более дорогим и болезненным, возникает возможность начать извлекать прибыль сразу из всех сторон. Именно тогда платформа постепенно перестает максимизировать ценность для пользователей и поставщиков и начинает максимизировать ценность для собственных акционеров.
Не устанем подчеркивать: важно понимать, что этот процесс не выглядит, как чей-то персональный злой умысел. Все это происходит абсолютно рационально, через бесконечную последовательность небольших изменений, каждое из которых кажется разумным и оправданным само по себе и немножечко улучшает квартальный отчет. Чуть больше рекламы. Чуть больше рекомендованного контента. Чуть меньше органического охвата. Чуть больше комиссий. Чуть больше ограничений.
Каждое отдельное решение почти незаметно — но спустя годы пользователи внезапно обнаруживают, что сервис, который когда-то решал их проблемы, скатился и теперь в первую очередь решает проблемы собственной монетизации. За их, пользователей, счет — в том числе за счет их удобства.
Эншиттификация возникает там, где исчезает возможность выбора. Пока пользователь может легко уйти, платформа вынуждена конкурировать качеством. Пока создатель контента может безболезненно перейти на другую площадку, платформа вынуждена учитывать его интересы. Но когда стоимость выхода становится слишком высокой, стимулы начинают работать в противоположную сторону.
В сущности, решение большинства описанных в этой статье проблем сводятся к двум простым принципам, которые отлично формулирует Доктороу:
Первый можно сформулировать как верность первоначальной цели системы. Поисковик должен помогать находить информацию, а не максимизировать рекламные показы. Социальная сеть должна соединять людей, а не управлять их вниманием. Рекомендательный алгоритм должен помогать выбирать контент, а не удерживать пользователя любой ценой. Иными словами, карта не должна подменять собой территорию, а метрика — превращаться в цель.
Второй принцип еще проще. У пользователя всегда должна оставаться возможность уйти. Возможность сменить платформу, не потеряв свои данные, контакты, покупки, аудиторию или накопленный цифровой капитал. Потому что именно право на выход является главным механизмом, который заставляет сложные системы помнить, ради чего они вообще были созданы.
Правда, абсолютно вся логика мирового капитализма, торгующего обещаниями и ложью (что особенно наглядно видно по «ИИ»-пузырю), препятствует этим двум принципам.
Заключение
Крайне иронично то, что многие из описанных выше процессов являются следствием не провала технологий, а наоборот их крайнего успеха.
PageRank оказался настолько эффективным, что люди научились манипулировать ссылками. Рекомендательные алгоритмы настолько хорошо научились удерживать внимание, что удержание внимания стало самоцелью. Социальные сети настолько успешно объединили миллиарды пользователей, что превратились в крупнейшие механизмы распределения внимания в истории человечества. Пойдем дальше: генеративные модели настолько удешевили производство контента, что под угрозой оказалось само понятие информационного дефицита.
Это не означает, что любая технология неизбежно обречена на деградацию. Просто давайте не будем, пожалуйста, забывать о том, что мы люди, а не роботы. Проводя весь день в интернете и глядя на циферки (особенно если сам с ними работаешь), очень легко продолжить оценивать циферками вообще все, что с тобой происходит в жизни. Саму эту жизнь.
Но это же бред, друзья. Информированность нельзя свести к количеству просмотров. Качество общения нельзя измерить временем, проведенным в приложении. Полезность знания нельзя выразить через кликабельность заголовка. Как только суррогат начинает заменять реальную цель, система начинает постепенно дрейфовать в сторону все более странных и противоестественных форм поведения.
Формально цифровая среда никогда не была настолько развитой, как сейчас. Мы располагаем почти неограниченным доступом к знаниям, мгновенной связью с людьми по всему миру, огромными библиотеками текстов, музыки и видео, мощнейшими инструментами автоматизации и нейросетями, которые еще десять лет назад казались научной фантастикой. Однако найти полезную информацию стало сложнее, чем раньше (вам не кажется — благодаря приоритизации «ИИ» поиск реально ухудшился), рекомендации стали навязчивее, социальные сети стали утомительнее, а значительная часть «контента» существует исключительно ради собственного воспроизводства.
Что со всем этим делать, скажем честно, непонятно — мы как будто уперлись в какой-то технологический потолок, когда уже не интернет существует для человека, а буквально человек для интернета. И это явно не изменится, потому что с текущей модели кормятся буквально все (в том числе, скорее всего, и вы, читающие эту статью). Но должен же быть какой-то выход из эншиттификации?
Где-то там, за картой, однажды ведь была территория?