Как вышло, что опытные венчурные инвесторы Silicon Valley Bank и IT-директора клиентов CrowdStrike принимали решения на основе слухов, игнорируя официальные отчеты и графики? За последние десять лет когнитивная наука накопила массив данных, доказывающий: классическая «модель информационного дефицита» больше не работает.
Статья носит справочный характер и задумана как навигатор по современным исследованиям для специалистов, которым необходимо понимать почему люди верят в опровергаемые мифы. Разберем 6 причин уязвимости — от архитектуры «ленивого мозга» до феномена «потребности в хаосе» и дам ссылки для более глубокого изучения проблемы.
Две истории, один паттерн
В среду 8 марта Silicon Valley Bank объявил о реструктуризации портфеля и продаже облигаций с убытком $1.8 млрд — ничего критичного. В четверг 9 марта цена их акций упала на 60%, и за этот же день клиенты пытались вывести $42 млрд — почти четверть всех депозитов. В пятницу утром регулятор Калифорнии закрыл банк.
Меньше двух суток от публичного признания небольшой проблемы до фактического краха. Информация не скрывалась. Были доступны публичные отчеты, комментарии менеджмента, финансовые показатели и аналитика. И всё же решения определялись не столько официальной информацией, сколько тем, как эта информация переживалась и распространялась внутри сети.
Это плохо укладывается в классическую модель: «если дать людям факты — они скорректируют поведение».
Исследователи (Cookson et al. 2023)[20] решили выяснить, как именно социальные сети повлияли на панику вокруг SVB:
Банки, которые активно упоминались в Твиттере до начала кризиса, пострадали сильнее.
Чем активнее банк обсуждали в сети, тем масштабнее клиенты выводили из него свои средства. Ученые доказали, что Твиттер влиял на это сильнее, чем классические финансовые показатели надежности банка.
В самые горячие дни кризиса акции банка падали синхронно с тем, как росла лавина панических твитов.
Анализ показал, что главными авторами постов были люди из IT- и стартап-тусовки, реальные клиенты SVB.
Злую шутку с банком сыграл именно состав его вкладчиков. Поскольку клиенты SVB тесно общались друг с другом в онлайне и сидели в одном информационном пузыре, обычная финансовая проблема приобрела размер фатальной угрозы. Информационная паника распространялась по социальным сетям с такой скоростью, к которой банковская система была не готова.
В июле 2024 года ошибка в обновлении от CrowdStrike сломала 8,5 млн компьютеров по всему миру. Компания быстро опубликовала отчеты с техническими причинами сбоя. Но знание правды не успокоило рынок:
Акции упали на треть, а почти половина крупных клиентов захотела уйти к конкурентам.
В соцсетях начали плодиться конспирологические слухи — например, что это была хакерская атака. Пытаясь защититься, компания официально опровергала каждый фейк. Но чтобы опровергнуть слух, ей приходилось его цитировать. Тем самым она сама постоянно напоминала аудитории об этих теориях, закрепляя их в памяти.
Два случая, два сектора, закономерность одна: информация приходит быстро, реакция компании правильная, но решения вкладчиков, клиентов и партнёров принимаются на основе сомнительных слухов.
Есть еще один (спорный) кейс. 23 апреля 2013 года. С аккаунта (на тот момент взломанного) Associated Press уходит твит про взрыв в Белом доме. В течение нескольких минут S&P 500 теряет $136.5 миллиардов рыночной капитализации[1]. AP публикует опровержение, рынок отыгрывает падение почти полностью. Почти. Часть инвесторов, фиксировавших убытки в нижней точке, своих денег не вернула никогда.
И это не истории про глупых людей. Венчурные капиталисты SVB и IT-директора, ушедшие от CrowdStrike, не глупые. Что-то происходит в архитектуре их решений, что не лечится более громким, более авторитетным или более фактологичным опровержением.
Почему классический ответ не работает
У большинства управленцев есть понимание: «нужно быстро дать людям корректную информацию из авторитетного источника». Это согласуется с моделью информационного дефицита. Её базовое допущение: люди верят в неправду, потому что у них нет доступа к правде. Дайте им доступ и проблема исчезнет.
Последние годы эта модель находится под пристальным вниманием когнитивной науки. Если коротко:
Люди не оценивают информацию по её точности — они оценивают её по эмоциональной нагрузке, новизне, знакомости и совместимости со своей идентичностью.
Опровержение не отменяет первичную информацию — оно ставит её в конкуренцию с правдой за активацию в памяти. И часто правда проигрывает: у лжи фора по времени и эмоциональной интенсивности.
Повторение работает сильнее логики. Утверждение, услышанное пятый раз, ощущается правдоподобнее, чем услышанное один раз.
«Авторитетный источник» работает только внутри группы, которая считает этот источник своим. Для остальных он либо нейтрален, либо является дополнительным аргументом против: «они так и должны были сказать».
Проблема не в том, что менеджеры (из историй выше) плохо опровергали. Проблема в том, что они опровергали, опираясь на модель человеческого мышления, которая никогда толком не работала. Настоящая модель сложнее. Ниже — шесть механизмов, организованных в три уровня. Группировка не строгая: реальные ситуации задействуют все уровни одновременно. Но она помогает понять, что проблема многоуровневая и одно вмешательство, нацеленное на один уровень, не закрывает остальные.
Уровень I: Когнитивный
Слой 1. Когнитивный скряга
Прежде чем читать дальше, вспомните задачу:
Бита и мяч вместе стоят 1 доллар 10 центов. Бита стоит на доллар дороже мяча. Сколько стоит мяч?
У кого-то в голове моментально возникает «10 центов» - это срабатывание быстрого автоматического мышления (на самом деле мяч стоит 5 центов, бита $1.05).
Это первое задание из Cognitive Reflection Test, разработанного Шейном Фредериком[2]. CRT измеряет не интеллект напрямую или образование. Он измеряет склонность усомниться в первом ответе, который дал собственный мозг. CRT умеренно коррелирует с тестами интеллекта (в исходной работе Фредерика r ≈ 0.43–0.46), но это связанные, а не тождественные конструкты: можно быть умным и не склонным к перепроверке интуитивных ответов.
В 2018 году Гордон Пенникук и Дэвид Рэнд опубликовали исследование с участием 3446 человек[3]. Вопрос: что лучше предсказывает веру в политический фейк — идеологическая позиция или результат CRT? К моменту публикации в науке доминировала гипотеза мотивированного рассуждения: люди верят в ложь, которая льстит их взглядам. Это объяснение интуитивно убедительно, но данные показали обратную картину.
Люди с низким CRT верили в фейки независимо от того, соответствовал ли фейк их взглядам или противоречил. Люди с высоким CRT отличали фейки от новостей лучше — даже когда фейк идеологически был им ближе. Аналитическое мышление работало не как защита убеждений, а как фильтр, срабатывающий на неправдоподобный заголовок. Авторы назвали работу: «Lazy, not biased» — «Ленивые, а не предвзятые».
Мозг — когнитивный скряга (термин Fiske & Taylor, 1984)[4]: он обычно выбирает самый дешёвый путь к ответу. Когда человек верит в очевидно фейковый твит, стандартный диагноз «он защищает свою группу» часто неверен. С большой вероятностью он просто не сделал паузу.
Что это значит на практике:
Когнитивные способности и образование не защищают автоматически. CRT-навык — отдельная привычка.
Скорость принятия решений и устойчивость к дезинформации обратно зависимы.
Главный рычаг — не информирование, а замедление. Пауза между «увидел информацию» и «принял решение» работает на стороне аналитики.
Слой 2. Архитектура памяти: опровержение не стирает, а конкурирует
Если бы человеческая память работала как файловая система, борьба с дезинформацией была бы простой: старая запись удаляется, когда поступило опровержение. Но память работает не так.
Ульрих Экер, Стефан Левандовски и коллеги в обзоре описывают Continued Influence Effect[5]. После того как человек прочитал, понял и даже принял опровержение, исходная ложная информация продолжает влиять на его суждения, выводы и решения.
В эксперименте участникам зачитывали серию сообщений о пожаре на складе[6]. В одном из них было сказано, что причиной возгорания, предположительно, стало небрежное хранение канистр с краской и баллонов с газом. В следующем сообщении эта информация явно опровергалась. Через какое-то время участников просили объяснить, почему пожар был таким сильным и почему образовалось столько токсичного дыма. Те же самые участники, что только что прочли опровержение, отвечали: «потому что горела краска и взрывались баллоны». Они помнили опровержение, но продолжали опираться на опровергнутую информацию в каузальных рассуждениях.
В современной модели память — сеть конкурирующих следов. Опровержение добавляет новую запись, но не удаляет старую и оставляет дыру в причинной модели. Мозг плохо справляется с каузальными пустотами и при первой возможности возвращается к старому объяснению — оно работает как объяснение, в отличие от “пустого” опровержения.
Когда CEO одобряет пресс-релиз, он мысленно ставит галочку: вопрос закрыт. С точки зрения архитектуры памяти аудитории — вопрос не закрыт. Он переведён в состояние «есть две конкурирующие записи». Спустя время, когда клиент будет решать, продлевать ли подписку, активируется та запись, что эмоционально насыщеннее и каузально полнее.
Опровержение, не предлагающее альтернативной причинной истории, менее эффективно, чем опровержение с альтернативой. Молчание при этом, отдельный сценарий со своими рисками.
Слой 3. Иллюзорная правда: повторение работает сильнее логики
В 1977 году Линн Хэшер, Дэвид Голдштейн и Томас Топпино провели эксперимент[7]. Участникам зачитывали список из шестидесяти утверждений общего характера. Часть — правда, часть — ложь. Через две недели эксперимент повторили. И ещё раз через две недели. Каждый раз добавлялись новые утверждения, но часть старых повторялась. Результат: утверждения, услышанные раньше, кажутся более правдивыми — независимо от того, правда они или ложь.
Это illusory truth effect и у него три неудобных свойства:
Он не зависит от когнитивных способностей. В работе De keersmaecker и коллег 2020 года[8] измерения интеллекта, склонности к закрытию когнитивных задач и CRT-стиля мышления не предсказывали эффект повторения. Аналитики проверяют первый ответ — но иллюзорная правда работает на уровне базового ощущения знакомости.
Он работает даже когда участники знают правильный ответ. В работе Fazio и коллег[9] участникам предъявляли утверждения, по части из которых у них было верное знание (выявленное постэкспериментальным тестом). Тем не менее повторение этих утверждений делало их более правдоподобными в восприятии — даже у тех, кто знал, что они ложны. Этот эффект назвали knowledge neglect: мозг знает, что это неправда, но ощущает её как правду, и в момент быстрого решения побеждает ощущение.
Он сохраняется месяцами.
Механизм называется processing fluency — беглость обработки. Мозг попутно замеряет, насколько легко информация обрабатывается. Высокая беглость интерпретируется как сигнал истинности. Эволюционно это разумно: то, что многократно встречалось в среде и не вызвало проблем, действительно с большой вероятностью верно. Проблема в том, что эвристика откалибрована под физический мир, а не под информационную среду, где одно утверждение можно встретить пятьдесят раз за неделю.
В применении к управленческой коммуникации:
Конкурент с меньшим бюджетом, но регулярной негативной коммуникацией, со временем может побеждать бренд с дорогим однократным позитивом. Повторение откладывается в processing fluency, единичный пресс-релиз — нет.
Корпоративные слухи воспринимаются правдивее с каждым пересказом — даже среди тех, кто им не верит.
Молчание — не нейтральная позиция в информационной войне. Если бренд не присутствует в публичном поле, поле занимает чья-то ещё формулировка о нём.
Уровень II: Сетевой
Слой 4. Эпидемиология лжи
В 2018 году вышла работа Соруша Восуги, Деба Роя и Синана Арала[10]. 126 000 цепочек новостей в Twitter за 2006–2017 годы, около 3 миллионов пользователей, миллионы ретвитов. Каждая цепочка проверена на достоверность шестью независимыми фактчекинговыми организациями, сходящимися в оценках на 95–98%.
Ложь vs правда. Четыре результата:
Ложь достигает 1500 пользователей в 6 раз быстрее
Топ-1% ложных цепочек доходит до 1 000–100 000 пользователей
Топ-0.01% ложных каскадов проникает на 8 хопов глубже по сети, чем самые глубокие правдивые
Боты разгоняли правду и ложь примерно одинаково; асимметрию создавали живые пользователи
Люди принимали решение нажать «ретвит» под ложным сообщением чаще, быстрее и охотнее.
Что отличало ложные сообщения от правдивых на уровне содержания? Две вещи:
Новизна: ложные новости содержали больше неожиданной, ранее не встречавшейся информации. Ложь часто конструируется именно так, чтобы удивлять — это её жанровое преимущество перед правдой, которая привязана к более скучной реальности.
Эмоциональная сигнатура: ложь вызывала страх, отвращение и удивление, правда — ожидание, грусть, радость и доверие. Эмоции угрозы мобилизуют действие сильнее, чем спокойные; импульс «передать дальше, чтобы предупредить других» включается раньше, чем «проверить».
Работа Восуги наиболее цитируемое исследование в этой области, но у неё есть методологические особенности. Датасет — новости, прошедшие через фактчекинговые организации, что вносит selection bias: сенсационная ложь с большей вероятностью попадает на проверку, чем рутинная. Juul и Ugander[21] в 2021 году переанализировали те же данные, контролируя на общий охват каскада (cascade size), и показали, что отличия в форме каскадов (глубина, размах, скорость) между правдой и ложью становятся неразличимыми при таком контроле. Их вывод не опровергает Восуги, а уточняет: видимая «уникальная вирусность лжи» — не результат особой структуры её распространения, а следствие того факта, что люди чаще шерят ложь, чем правду.
Соединяя четыре механизма: мозг не делает паузу для проверки (1), даже если опровержение приходит, оно не стирает исходное сообщение (2), повторение усиливает любое утверждение (3), а ложь по содержанию новее и эмоциональнее, поэтому повторяется больше, ведь её больше пересылают (4). Это система с положительной обратной связью.
Но эти четыре механизма описывают, как ложь распространяется в среднем. Они не объясняют, почему в одних случаях она прилипает к человеку, а в других отскакивает. И не объясняют, почему часть людей распространяет ложь, зная об этом.
Уровень III: Социально-мотивационный
Слой 5. Племенной мозг: идентичность важнее истины
Представьте аналитика, который спокойно признаёт, что переоценил риск по сделке, и того же аналитика упрямо защищающего позицию по теме, в которой у него нет компетенций, но которая связана с тем, кто он есть. Инженер, ежедневно работающий с данными, по некоторым вопросам становится демонстративно глух к данным.
Этот феномен описан в работе Ван Бавела и Перейры[11]. Человеческий мозг не оптимизирован под точное восприятие реальности, скорее он оптимизирован под удержание места в социальной группе. Это две разные функции; большую часть времени они совпадают, но не всегда. Когда они расходятся, выигрывает вторая. Авторы называют свою модель identity-based model of political belief. Основной тезис: убеждение по идентичностно-заряженной теме функционирует не как карта реальности, а как сигнал принадлежности к группе. Соглашаться с убеждениями «своих» значит подтверждать членство. Сомневаться — значит ставить под угрозу.
Дэн Кахан в обзоре, обобщающем серию исследований за десять лет[12], показывает результат, ставший известным как Парадокс Кахана. Он измерял у американцев научную грамотность и параллельно их позиции по разделяющим темам: климат, ядерные отходы, контроль оружия. Гипотеза была: чем выше научная грамотность, тем меньше расхождений с научным консенсусом. Образование должно было сглаживать поляризацию.
Данные показали обратное. На самых разделяющих темах разрыв в позициях между либералами и консерваторами был максимальным среди людей с высочайшим уровнем научного мышления и минимальным среди тех, кто плохо разбирался в науке.
Объяснение, которое предложил Кахан, переворачивает интуитивное «образование противостоит дезинформации». Аналитическое мышление — это инструмент, и человек применяет его к той задаче, которую считает важной. Если задача формулируется как «понять, что на самом деле происходит с климатом», аналитик ищет истину. Если задача (пусть и неосознанно) формулируется как «защитить свою принадлежность к группе, для которой эта позиция является маркером», аналитик ищет аргументы. И находит их лучше, чем человек без аналитической подготовки.
Здесь (кажется) можно заметить противоречие: Слой 1 утверждал, что аналитики ловят ложь лучше. Слой 5 утверждает обратное. Но это два разных режима работы одного и того же аппарата: когда тема не задевает идентичность, интеллект работает как фильтр истины. Когда тема задевает идентичность, интеллект работает как защитник позиции.
Граница между двумя режимами социальная. Сам человек, как правило, разницы не замечает: ощущение «я рассуждаю объективно» сопровождает оба режима одинаково.
Убеждения внутри организации работают по той же логике:
Не существует отдела с «нейтральной аналитической культурой». Внутри компании формируются идентичности — «маркетинг против разработки», «продукт против продаж», «новая команда против старой». По темам, попавшим в плоскость идентичности, данные не действуют ни на одну из сторон, независимо от уровня инженеров с обеих сторон. Решает не качество аргументации, а архитектура идентичностей.
Логичное опровержение убеждения, привязанного к идентичности, воспринимается как атака. Если сотрудник убеждён, что «новое руководство гробит компанию», а в ответ приходят данные о росте, он не услышит данные. Он услышит попытку заставить его перестать быть тем, кем он себя считает и реакция будет соответствующей.
Главный рычаг не качество аргументации, а декомпозиция идентичности от темы. Если удаётся переоформить вопрос не про «свои/чужие», а про «решаемая задача», режим защиты выключается и включается фильтр истины.
Этот слой объясняет, почему по идентичностно-заряженным темам аргументированное опровержение не работает даже с самыми умными. Но здесь было одно молчаливое допущение: что люди, распространяющие ложь, верят в неё.
Слой 6. Сознательные распространители и Need for Chaos
В 2023 году группа исследователей под руководством Шейна Литтрелла опубликовала результаты опроса 2001 американца[13]. Среди прочих был задан прямой вопрос: распространяли ли вы в социальных сетях информацию, про которую сами считали, что она, возможно, неправда?
14% ответили «да».
Это не люди, которых обманули или которые поленились включить аналитическое мышление. Это люди, которые в момент нажатия кнопки «поделиться» осознавали, что распространяют ложь, и делали это намеренно. Психологический портрет этой группы оказался примечательным. У сознательных распространителей были повышены показатели:
Тёмной тетрады: нарциссизм, психопатия, макиавеллизм, садизм. Эта комбинация устойчиво коррелирует с разрушительным социальным поведением.
Паранойи и догматизма: стабильное ощущение, что «настоящая правда» отличается от того, что говорят официальные источники.
Потребности в хаосе (Need for Chaos) — отдельного психологического конструкта, разработанного Майклом Бангом Петерсеном и коллегами[14].
Концепт Need for Chaos объясняет поведение, которое не объясняется ни одним из предыдущих слоёв. Если нельзя подняться в существующей иерархии, то выгоднее её разрушить: в хаосе пересдачи появляется шанс. Распространение разрушительных слухов становится инструментом стратегии. В экспериментах Петерсена это выражается уникальным паттерном: люди с высоким NFC готовы распространять враждебные слухи про всех, включая сторону, с которой они формально идентифицируются. Их мотивация ортогональна партийности.
Если в организации часть людей статус-ориентирована и одновременно ощущает, что легитимных путей к статусу для них нет, у некоторых из них переключение со стратегии «продвигаться» на стратегию «расшатывать» становится осмысленным. Распространение деструктивных слухов — один из инструментов. Это поведение не лечится фактчекингом, потому что в его основе нет ошибки восприятия, а лежит инструментальный расчёт.
Четыре инструмента
Четыре подхода ниже представляют собой интерпретацию рекомендаций из Debunking Handbook[23], который собирает консенсус академического сообщества по работе с дезинформацией.
Шесть слоёв дают точки, в которых можно вмешаться. Эмпирически проверенных вмешательств — четыре.
1. Правило заполненного вакуума
Какой слой лечит: Слой 2 (Continued Influence Effect).
Принцип. Опровержение, не предлагающее альтернативной причинной истории, менее эффективно, чем опровержение с альтернативой. Корректирующая коммуникация должна заполнять каузальную дыру.
В Слое 2 был эксперимент про пожар на складе. У него есть продолжение. В версии эксперимента, где опровержение содержало альтернативное объяснение (причина пожара — поджог, дым — следствие горения упаковочных материалов), участники переставали ссылаться на краску и баллоны в каузальных рассуждениях.
Шаблон корректирующего сообщения:
Назвать ложь явно. Не «появилась некорректная информация», а «утверждение X — что произошло Y — не соответствует действительности».
Объяснить, почему ложь правдоподобна: «Это утверждение распространилось, потому что [конкретный повод — событие, совпадение, заинтересованная сторона]». Двойной эффект: снимает с аудитории ощущение «я идиот, раз поверил», и закрывает каузальную дыру — даёт ответ на «откуда это вообще взялось».
Дать альтернативную причинную историю. Не «все под контролем», а «приложение действительно лагало 14 марта, потому что мы переносили инфраструктуру; вот таймлайн, вот ссылка на статус-страницу». Альтернативная история должна объяснять те же самые наблюдения, которые объясняла ложь.
Повторить корректную версию несколько раз в разных контекстах. Иллюзорная правда (Слой 3) работает на обе стороны: повторение усиливает любое утверждение, включая истинное.
Что это меняет в кризисном response. Стандартный пресс-релиз — слабое вмешательство: он активирует ложь, оставляет дыру, не заполняет её и не повторяется. Версия по правилу заполненного вакуума требует раскрыть детали внутренних процессов, которые обычно не публикуются. Это болезненно для PR. Но это вариант, работающий с архитектурой памяти аудитории.
2. Психологическая прививка (Prebunking)
Какой слой лечит: Слой 3 (illusory truth) и 5 (идентичность).
Принцип. Предотвратить веру в ложь дешевле, чем опровергать. Прививка работает по логике вакцинации: контролируемое предъявление ослабленной версии угрозы формирует иммунитет.
Концепция inoculation theory разрабатывается с 1960-х, начиная с работ Уильяма МакГуайра[15]. Современная операционализация — работы Сандера ван дер Линдена. В исследовании 2017 года[16] он показал, что предварительное сообщение людям о самом факте существования организованных кампаний по дезинформации о климате — без какого-либо предъявления самой дезинформации — снижает её последующее влияние, включая аудиторию противоположных взглядов.
Последующие исследования затухания эффекта инокуляции — серия работ Maertens, Roozenbeek и других[22] — показывают, что эффект держится от нескольких дней до нескольких недель в зависимости от типа интервенции, и без поддерживающих коммуникаций затухает. Мета-анализ Banas & Rains[24] на 54 исследованиях даёт средний горизонт затухания порядка двух недель. С booster-сообщениями эффект может сохраняться до 2-3 месяцев.
Prebunking — единственное вмешательство в этом наборе, работающее до кризиса. Но требует системности, а не разовых кампаний.
3. Замедление как операционная процедура
Какой слой лечит: Слой 1 (когнитивный скряга).
Принцип. Привычка делать паузу перед ретрансляцией информации измерима, тренируема и легко встраивается в процессы.
Процедуры, проверенные в исследованиях:
Правило 24 часов: Любая внутренняя коммуникация на более чем 50 адресатов ставится в обязательную задержку на сутки от создания до отправки. За это время большая часть эмоционально заряженных сообщений переписывается или удаляется автором.
Lateral reading перед эскалацией: Прежде чем переслать руководителю новость о действиях конкурента — открыть отдельный источник, не связанный с исходным. Эта практика эмпирически измерена в работах Wineburg & McGrew[17]: профессиональные фактчекеры приходят к более точным выводам в разы быстрее, чем историки и студенты, именно благодаря lateral reading.
Accuracy nudge перед публичной коммуникацией: Перед публикацией любого сообщения от лица компании — короткий вопрос: «если это сообщение окажется неверным, какова цена?». В исследовании Пенникука и коллег[18] участники, которых перед просмотром заголовков попросили оценить точность одного нейтрального заголовка, в дальнейшем шерили меньше недостоверных материалов.
Pre-mortem перед стратегическим решением: Перед принятием решения команда обсуждает гипотезу: «решение оказалось катастрофически неверным. Какие признаки в текущих данных мы проигнорировали?». Это принудительно включает Систему 2.
Каждая процедура — это трение, точка сопротивления, на которой ломается внедрение: команды, оптимизированные под скорость, отвергают эти процедуры как «бюрократию». Нужен явный управленческий выбор: какие классы решений стоят защиты замедлением, а какие нет. По умолчанию большинство компаний выбирают «никакие».
4. Voice-инфраструктура
Какой слой лечит: Слой 6 (сознательное распространение).
Принцип. Сознательное распространение деструктивных слухов как инструментальное поведение возникает чаще там, где у людей нет легитимных путей повлиять на ситуацию. Это структурная характеристика организации, которую можно перестраивать через классические инструменты organizational voice (Hirschman, 1970)[25]. Конкретные признаки уязвимости лучше определять локально, в зависимости от специфики компании.
Прямая интервенция против конкретных сотрудников редко работает, поскольку это игра на их поле. Структурная работает: уменьшить долю людей, для которых стратегия «расшатывать систему» становится осмысленной.
На практике это рабочие легитимные каналы несогласия. Хиршман описывал это как противопоставление exit (уйти из организации) и voice (остаться и обозначить несогласие). В организациях, где voice не работает, exit становится единственным выходом для конструктивно настроенных, а для статус-фрустрированных — открывается ниша «делать систему хуже изнутри».
Конкретные формы voice — регулярные one-on-one с уровнем выше прямого начальника, анонимные опросы с публикацией результатов и реакцией руководства, доступная процедура внутренней апелляции. Это не «soft management», а инфраструктурная защита от Слоя 6.
Можно ли всё это игнорировать
В академической литературе последних лет идёт активная дискуссия о реальных масштабах проблемы дезинформации. Одна сторона (Acerbi, Altay, Berriche, Krause и другие) указывает на то, что доля фейков в информационной диете среднего человека составляет единицы процентов, причинная связь между потреблением дезинформации и поведением слабее, чем часто предполагают, а сильные риторические оценки масштабов проблемы рискуют отвлечь внимание от более структурных проблем информационной экосистемы (поляризации, эрозии доверия к институтам)[19].
Другая сторона (Ecker, Lewandowsky, van der Linden и коллеги) называет оппонирующую позицию «минимизаторской»[19] и приводят три аргумента:
Низкая доля в общем потоке не означает низкого влияния. Доля токсичных веществ в безопасной концентрации тоже низкая, но это не значит, что ей можно пренебречь. Дезинформация имеет несимметричный эффект: единичный вирусный фейк может изменить поведение миллионов.
Замеры доли «прямого прочтения фейков» систематически недооценивают реальное распространение. Фейк не обязан быть прочитан целевой аудиторией, чтобы повлиять на неё — достаточно, чтобы он был прочитан социальным окружением и пересказан. Continued Influence Effect и illusory truth работают на пересказах не хуже, чем на оригиналах.
Каузальная связь между дезинформацией и поведением слабее в популяционных усреднениях и сильнее в критических точках принятия решений. Сотрудник, читающий корпоративные новости раз в неделю и не меняющий поведения, и сотрудник, принимающий решение в день, когда увидел тревожный слух, — это два разных режима.
Это открытая дискуссия, и обе стороны имеют аргументы. Прагматичная позиция: даже если популяционные эффекты дезинформации в среднем небольшие, в критических точках (банковский run, кризис восприятия бренда, корпоративный слух и реорганизация) они оказываются достаточными, чтобы влиять на исход.
Что из этого следует
Шесть механизмов — это не шесть отдельных проблем. Это уровни одной системы, в которой каждый усиливает остальные: когнитивная лень даёт лжи попасть в память, архитектура памяти не позволяет её оттуда стереть, повторение делает её правдоподобнее, сетевая динамика обеспечивает повторение, идентичность защищает её от критики, а часть распространителей включается в систему сознательно, потому что для них её работа выгодна. Поэтому одно вмешательство, нацеленное на один уровень, не закрывает остальные.
Четыре инструмента из второй части — заполнение каузального вакуума, prebunking, замедление, voice-инфраструктура — отвечают на разные уровни системы. Они не складываются в готовую стратегию, потому что стратегия зависит от того, кто и в какой области работает с дезинформацией: журналист, врач, политолог, исследователь и корпоративный коммуникатор будут делать разные шаги.
Что меняет AI и генеративные модели — ничего нового по природе механизмов, но кратное усиление по каждому. Стоимость производства убедительного фейка падает в разы. Скорость генерации новизны растёт. Возможность таргетировать ложь под конкретную идентичность приобретает промышленный масштаб.
Открытый вопрос, на который у литературы пока нет уверенного ответа: насколько Need for Chaos и identity-protective cognition переносятся между культурами.
Список источников:
CNBC. False Rumor of Explosion at White House Causes Stocks to Briefly Plunge; AP Confirms Its Twitter Feed Was Hacked. April 23, 2013. Цифра $136.5 млрд: оценка Reuters.
Frederick S. Cognitive reflection and decision making // Journal of Economic Perspectives. 2005. Vol. 19, № 4. P. 25–42.
Pennycook G., Rand D. G. Lazy, not biased: Susceptibility to partisan fake news is better explained by lack of reasoning than by motivated reasoning // Cognition. 2018. Vol. 188. P. 39–50.
Fiske S. T., Taylor S. E. Social cognition: From brains to culture. 2007.
Ecker U. K. H., Lewandowsky S., Cook J., Schmid P., Fazio L. K., Brashier N., Kendeou P., Vraga E. K., Amazeen M. A. The psychological drivers of misinformation belief and its resistance to correction // Nature Reviews Psychology. 2022. Vol. 1. P. 13–29.
Johnson H. M., Seifert C. M. Sources of the continued influence effect: When misinformation in memory affects later inferences // Journal of Experimental Psychology: Learning, Memory, and Cognition. 1994. Vol. 20, № 6. P. 1420–1436.
Hasher L., Goldstein D., Toppino T. Frequency and the conference of referential validity // Journal of Verbal Learning and Verbal Behavior. 1977. Vol. 16, № 1. P. 107–112.
De keersmaecker J., Dunning D., Pennycook G., Rand D. G., Sanchez C., Unkelbach C., Roets A. Investigating the robustness of the illusory truth effect across individual differences in cognitive ability, need for cognitive closure, and cognitive style // Personality and Social Psychology Bulletin. 2019. Vol. 46, № 2. P. 204–215.
Fazio L. K., Brashier N. M., Payne B. K., Marsh E. J. Knowledge does not protect against illusory truth // Journal of Experimental Psychology: General. 2015. Vol. 144, № 5. P. 993–1002.
Vosoughi S., Roy D., Aral S. The spread of true and false news online // Science. 2018. Vol. 359, № 6380. P. 1146–1151.
Van Bavel J. J., Pereira A. The partisan brain: An identity-based model of political belief // Trends in Cognitive Sciences. 2018. Vol. 22, № 3. P. 213–224.
Kahan D. M. Misconceptions, misinformation, and the logic of identity-protective cognition // SSRN Electronic Journal. 2017.
Littrell S., Klofstad C., Diekman A., Funchion J., Murthi M., Premaratne K., Seelig M., Verdear D., Wuchty S., Uscinski J. E. Who knowingly shares false political information online? // Misinformation Review. 2023.
Petersen M. B., Osmundsen M., Arceneaux K. The «Need for Chaos» and motivations to share hostile political rumors // American Political Science. 2023. Vol. 117, № 4.
McGuire W. J. The effectiveness of supportive and refutational defenses in immunizing and restoring beliefs against persuasion // Sociometry. 1961. Vol. 24, № 2. P. 184–197.
Van der Linden S., Leiserowitz A., Rosenthal S., Maibach E. Inoculating the public against misinformation about climate change // Global Challenges. 2017. Vol. 1, № 2.
Wineburg S., McGrew S. Lateral reading and the nature of expertise: Reading less and learning more when evaluating digital information // Teachers College Record. 2019. Vol. 121, № 11. P. 1–40.
Pennycook G., Epstein Z., Mosleh M., Arechar A. A., Eckles D., Rand D. G. Shifting attention to accuracy can reduce misinformation online // Nature. 2021. Vol. 592, № 7855. P. 590–595.
Ecker U. K. H., Tay L. Q., Roozenbeek J., Van der Linden S., Cook J., Oreskes N., Lewandowsky S. Why misinformation must not be ignored // American Psychologist. 2024. Vol. 80, № 6. P. 867–878.
Cookson J. A., Fox C., Gil-Bazo J., Imbet J. F., Schiller C. Social media as a bank run catalyst // Journal of Financial Economics. 2025. Working paper SSRN, April 2023.
Juul J. L., Ugander J. Comparing information diffusion mechanisms by matching on cascade size // Proceedings of the National Academy of Sciences. 2021. Vol. 118, № 46.
Maertens R., Roozenbeek J., Basol M., van der Linden S. Long-term effectiveness of inoculation against misinformation: Three longitudinal experiments // Journal of Experimental Psychology: Applied. 2020. Vol. 27, № 1. P. 1–16.
Lewandowsky S., Cook J., Ecker U. K. H., Albarracín D., Amazeen M. A., Kendeou P., Lombardi D., Newman E. J., Pennycook G., Porter E., Rand D. G., Rapp D. N., Reifler J., Roozenbeek J., Schmid P., Seifert C. M., Sinatra G. M., Swire-Thompson B., van der Linden S., Vraga E. K., Wood T. J., Zaragoza M. S. The Debunking Handbook. 2020.
Banas J. A., Rains S. A. A meta-analysis of research on inoculation theory // Communication Monographs. 2010. Vol. 77, № 3. P. 281–311.
Hirschman A. O. Exit, Voice, and Loyalty: Responses to Decline in Firms, Organizations, and States. 1970.