Любопытный парадокс современной технологической культуры: чем сильнее индустрия твердит о рациональности, данных и критическом мышлении, тем чаще внутри нее возникают почти религиозные формы мышления. Например, культ «ИИ» или крипто-мессианство, биохакерские утопии, вера в «оптимизацию человечества», технократический элитизм и убеждение, что любая проблема — всего лишь ошибка, которую можно отдебажить. Особенно интересно последнее, ведь считается, что программист — это человек, защищенный от мифов самим устройством профессии, ведь он работает с логикой и формальными системами. А что выходит на самом деле? Разбираемся в статье, которая наверняка найдет отклик аудитории именно здесь, на Хабре.
Иррациональное рацио
Именно технологическая среда породила такие замечательные вещи как культ «эффективного человека»; веру в неизбежное всемогущество ИИ (который появится вот-вот, надо только немного подождать); идею, что демократия «устарела» (в отличие от меритократии в IT); стартап-мышление как универсальную философию жизни; криптовалютный милленаризм; техноутопические проекты «нового общества»; одержимость IQ, рациональностью и «когнитивным превосходством». Но насколько вообще хоть что-нибудь из этих вещей имеет отношение к рациональности как таковой? Может быть, это скорее специфическая форма интеллектуальной самоуверенности?
Не поддаться ей, впрочем, для любого было бы сложно: в конце концов, именно айтишники сейчас находятся, так сказать, на вершине пищевой цепочки (ну, или находились до 2025) и ведут образ жизни (особенно удаленщики), о котором большая часть населения Земли может только мечтать. Как же тут не уверовать в то, что ты реально, объективно элитарий из элитариев, итог эволюции человечества, самый полезный, умный и рациональный?
Недостаток тут, как и в случае любой самоуверенности, в том, что ты перестаешь замечать что-либо, кроме своего мнения и своего системного подхода к жизни. Человек, привыкший успешно решать сложные инженерные задачи, начинает незаметно переносить этот инженерный подход вообще на все сферы реальности — от политики до морали (это я вам могу подтвердить как человек, за последние два года прочитавший ОЧЕНЬ много комментов на Хабре). Во многих сферах (в той же генетике) код вообще стал базовой метафорой для реальных процессов, а про «культурный код» лучше и не вспоминать.
В какой-то момент техно-бро (назовем так интересующий нас типаж айтишника с мессианскими идеями) начинает смотреть на само общество как на систему, которую можно: оптимизировать, масштабировать, очистить от «ошибок», рационализировать или вообще переписать с нуля. На первый взгляд это даже кажется хорошей идеей: в конце концов, большинство бед человечества и правда происходит по совершенно иррациональным причинам.
А вот чем отличается жизнь от кода: код создается ради конкретной прикладной цели; он подчиняется единой логике (в рамках одного языка); не сопротивляется архитектуре; не имеет собственных интересов; не хранит исторических травм; не меняет правила игры по ходу выполнения. Не совпадают, короче, люди и образуемые ими живые системы с идеей инженерной логики как универсального языка самой реальности.
Solutionism
Много интересных мыслей по этому поводу можно почерпнуть в книгах американского ученого белорусского происхождения Евгения Морозова «Чтобы спасти мир, кликните здесь» (2013) и «Интернет как иллюзия. Обратная сторона сети» (2011). Критика технооптимизма вообще является его основной темой.
Морозов пишет, что современная технологическая индустрия систематически пытается представить сложные социальные, политические и культурные проблемы как технические задачи, которые можно решить алгоритмами, платформами и цифровыми сервисами.
Для обозначения этого феномена автор вводит термин solutionism — «солюционизм» или «идеология технологического решения». Морозов критикует мышление, в котором любые социальные проблемы трактуются как инженерные, сложность воспринимается как неэффективность, а политика заменяется менеджментом. Можно еще сказать так: техно-бро не принимают, что с ними кто-то может быть в принципе информированно не согласен, они просто считают, что их не поняли и надо объяснить еще раз.
Самая радикальная идея на момент написания книг (с тех пор, наверное, уже все воочию в ней убедились) — «интернет» это не нейтральная сила прогресса, которая сама по себе не несет свободу, демократизацию, прозрачность и рациональность. Интернета как единого пространства вообще не существует, пишет Морозов, существует набор конкретных платформ, мегакомпаний и инфраструктур с собственными интересами и ограничениями. И нетрудно понять, учитывая корпоративную природу и географическую прописку этих мегакомпаний, в какую сторону эти интересы и ограничения будут склоняться.
Но это не сатирический памфлет против техноутопий и капитализма. Самое важное, наверное, следующее: Морозов разбирает интеллектуальную основу идей популярных кибертеоретиков и показывает, что по большей части это понимание очень поверхностно, а местами техно-бро так и просто выборочно заимствуют концепции из академической среды, причем нередко — самые спорные и неоднозначные даже внутри самих гуманитарных дисциплин.
По мнению Морозова, техноидеологи постоянно ведут себя так, будто история начинается каждый раз заново вместе с очередной платформой или технологией, и любой предыдущий опыт учитывать не надо. Они требуют перестроить общество «по законам интернета» (чтобы самим быть на коне), при этом крайне поверхностно понимая сами институты, которые предлагают демонтировать: политику, медиа, образование.
О каких именно примерах речь? Ну, например, один из самых характерных — увлечение техно-среды эволюционной психологией в максимально упрощенном виде. Из сложной и спорной академической области часто вытаскивается примитивная идея, что «человеческое поведение полностью определяется биологическими алгоритмами» (при этом, как правило, каким-то образом одновременно в голове у техно-бро железно прошит советский лозунг, что «у человека нет инстинктов», это другое, понимать надо).
После чего любые социальные явления начинают объясняться — почти как поведение NPC — генетическими стратегиями и иерархиями (культурные и социальные институты, язык, воспитание и их влияние на общую картину не учитываются, потому что техно-бро не понимают, как они работают и зачем нужны).
Или, например, выдернутая из социологии 80-х идея с collective intelligence («мудрость толпы») — будто большие децентрализованные системы автоматически производят более качественные решения. Даже в рамках самой социальной теории этот механизм работает только в условиях сферической лошади в вакууме, то есть при независимости участников, разнообразии мнений, отсутствии стадного поведения и ограниченном влиянии лидеров мнений (то есть, условиях, которых в реальности за пределами экспериментальной лаборатории не бывает абсолютно никогда).
Меж тем, техно-платформенная среда делает абсолютно противоположные вещи, алгоритмически усиливая конформизм, создавая эхо-камеры, поощряя эмоциональный контент и реакции вместо продуманной аналитики и концентрируя внимание вокруг инфлюенсеров. А потом искренне удивляются, как же люди могут выбрать в президенты яркого мемного популиста. Действительно.
Третьим примером, хорошо рифмующимся с предыдущими, возьмем одержимость техно-среды бихевиоризмом (который в их версии представляет собой комбинацию из работ Скиннера и поп-пересказов теории подталкивания), сводящимся к тезису «поведение человека можно архитектурно программировать через правильные стимулы». Все это легло в основу современной экономики внимания (уведомления, геймификация, напоминалки, скроллинг, ачивки).
Работает? Ну конечно работает, альтернативы-то нет. Но хорошо ли это? Многие из этих идей в академической среде десятилетиями критикуются именно за редукцию человека до реактивной системы стимулов (а отец-основатель бихевиоризма Скиннер, как отмечали еще при его жизни, использовал в качестве модельных организмов только крыс и голубей). Но техно-среде эта модель понравилась именно потому, что она идеально ложится на инженерное мышление: человек как предсказуемый интерфейс поведения.
Выходит, индустрия, больше всех говорящая о свободе и рациональности, построила значительную часть своих платформ на максимально механистическом представлении о человеческой психике. Это непонятная ирония или, напротив, единственно возможный логический итог техно-рационализма?
Когда техно-бро берутся за экономику, получается вообще какой-то атас. Из огромного массива экономической мысли обычно вытаскивается одна красивая и удобная для инженерного мышления идея: децентрализованные системы всегда эффективнее централизованных. Отсюда автоматически: госрегулирование не нужно, оно мешает инновациям, невидимая рука свободного рыночка сама порешает и так далее. Под похожими лозунгами в 1971 году Никсон устроил конец Бреттон-Вудской системы, перейдя ради «освобождения экономики» от золотого стандарта к современным плавающим валютным курсам — выиграли, разумеется, в конечном итоге только спекулянты, а обмен валют, Forex, сам по себе стал доминирующей частью рынка.
Создаем, в общем, децентрализованную систему. А затем выясняется, что криптоэкосистема за несколько лет воспроизводит практически все классические механизмы старой финансовой системы — иногда в еще более концентрированной форме. Вместо децентрализации на практике индустрия очень быстро начала концентрироваться вокруг крупных бирж, фондов, whale-инвесторов, инфраструктурных платформ, владельцев стейблкоинов. Большая часть пользователей не взаимодействует с «децентрализованной сетью» напрямую, а пользуется несколькими гигантскими централизованными сервисами — Binance, Coinbase, Tether и другими, которые фактически стали новыми цифровыми банками, только без сопоставимого регулирования и прозрачности.
Про метаверсы и NFT отдельно вспоминать не станем, весело было.
А как насчет ницшеанства и социал-дарвинизма, переупакованного как антихрупкость Нассимом Талебом (agile? agile!)? Сильные заслуживают успеха, слабые просто не адаптировались, хаос полезен победителям рынка, а нестабильность романтизируется.
Еще техно-бро очень любят идею, что реальность это нарратив и все социально сконструировано (а значит, может быть и переконструировано, как код). Правда, на практике эта идея используется максимально поверхностно — как оправдание платформенного хаоса, информационного нигилизма или отказа от ответственности за последствия технологий.
Получается странная ситуация: люди, которые зачастую презирают гуманитарные науки, одновременно годами потребляют их самые радикальные и упрощенные до лозунгов мотивационных спикеров версии — просто в виде TED Talk, подкастов и твиттер-тредов вместо академической среды.
Техномессия
Момент, в котором рациональность техно-бро дает колоссальную трещину, превращаясь в полную иррациональность — это, конечно, гипертрофированная культура спекулятивной харизмы. Индустрия, которая больше всех говорит о рациональности, данных, алгоритмах и объективности, на практике постоянно воспроизводит почти доиндустриальные механизмы социального поведения — культ пророков-визионеров с видением нового мира, где религия технология обязательно всех спасет и решит все проблемы!
Все серьезней, чем кажется: в Кремниевой долине еще много лет назад (наверное, еще во времена прайма Гейтса и Джобса) сформировался почти сакральный образ founder’а. Успешный предприниматель там воспринимается не просто как бизнесмен, а как человек, «видящий будущее», и чем более харизматично он умеет вешать лапшу это будущее описывать, тем больше инвестиций.
Самый яркий пример современной техно-бро сакрализации личности это, конечно, Илон Маск — визионер цивилизационного масштаба, спаситель человечества через технологии и «реальный Тони Старк», который и электромобили Tesla поднимет, и чипы Neuralink в мозг вживит и, конечно, колонизирует Марс (серьезно, в 2026 он снова начал интенсивно хайпить на этой брошенной было теме, видимо, сочтя, что зигование (осуждаем!) на инаугурации Трампа уже слегка подзабылось). С твиттером и гиперлупом, правда, неловко вышло, ну ничего, бывает.
А вот этого товарища, «эффективного альтруиста» Сэма Банкмана-Фрида помните? На его примере отлично видно, как культура техно-бро смешивает в одну кашу рационализм, утилитаризм, культ эффективности, финансовую спекуляцию и моральное мессианство. А на выходе получается опять не «умный человек с правильной моделью мира может рационально управлять будущим человечества», а один из крупнейших финансовых крахов индустрии.
Ну и третий пример пузыря, который все еще не рухнул (ждем): Сэм Альтман и его культ AGI как цифровой эсхатологии. Дискурс, который изначально выглядел как инженерная и исследовательская проблема, довольно быстро оброс риторикой почти метафизического толка: «самая важная технология в истории человечества», замена рабочих мест, искусственный разум, ожидание трансформации человечества, появление «посвященных», понимающих будущее лучше остальных.
Почему так происходит?
Потому что, хотя культура техно-бро постоянно говорит, что верит в цифры и данные, на практике она невероятно зависима от сторителлинга, от нарративов, к которым, в отличие от гуманитариев, у нее нет никакой выработавшейся толерантности. Чем более фэнтезийный и мессианский нарратив, тем лучше. Компания должна не просто заработать миллиард, но обещать НОВЫЙ ЭТАП ЦИВИЛИЗАЦИИ, ТЕХНОЛОГИЧЕСКОЕ СПАСЕНИЕ, ВЫХОД ЗА ПРЕДЕЛЫ ЧЕЛОВЕЧЕСКИХ ОГРАНИЧЕНИЙ.
Такая вот технарская рациональность.
Кстати, именно поэтому техно-бро скорее поверят в «рациональный» конспирологический нарратив, спонсированный нефтяниками, что глобального потепления не существует (см. потрясающий парад комментариев к моей единственной заминусованной на Хабре статье), чем в то, что огромные технологические компании цинично и «иррационально» уничтожают нашу единственную среду обитания по принципу «заработаем денег и после нас хоть великий потоп».
И поэтому техно-бро верят в то, что вот-вот будет созданы AGI и Квантовый Компьютер (надо только немного подождать) — и решат все проблемы человечества, от распределения материальных благ до разгадки природы сознания. Эти нарративы — истории, в которых техно-бро на коне, среди абсолютной элиты, техножрецы, определяющие с помощью исключительно инженерной и рациональной логики кому жить. а кому умереть — и все это, разумеется, ради блага самих людей.
Похоже, что смыслы в технической среде просто заменяют цели, а утопические сценарии воспринимаются как логический roadmap. Идея непрерывного технологического прогресса начинает играть роль почти исторической религии. Если в традиционных обществах существовал нарратив спасения через Бога, революцию или историю, то техно-культура постепенно создала собственную версию: человечество будет «исправлено» технологией.
Поэтому в таких нарративах особенно и важен «искусственный разум» (вполне возможно, дальше они будут продавать нам возможность оцифровки собственного разума в нейросеть как достижение трансгуманистического бессмертия)
Да и сама структура IT-индустрии усиливает культ харизмы. Десятилетиями в технологическом бизнесе действительно все работало по сектантскому принципу, когда один визионер или маленькая команда иногда способны создать продукт глобального масштаба. Такие прецеденты (которые ко времени Маска уже начали создаваться маркетологами искусственно — помним, что сам он не основывал свои компании, а выкупал их) создают опасную иллюзию, будто отдельные «исключительные люди» способны перепроектировать общество целиком.
Техно-бро культура так интересна как феномен в том плане, что она пытается построить мир после человеческой иррациональности — и в итоге снова и снова воспроизводит ее в новом интерфейсе.
И что с этим делать?
NB: Автор, безусловно, ни в коем случае не хочет подвергнуть какому-то сомнению умственные способности технарей или настаивать, что всё, о чем идет речь в этой статье, применительно ко всем представителям отрасли. Просто есть вот такие системные баги в системном мышлении работников доминирующего технократического тренда — в мышлении, которое за счет своей видимой структурированности и кажущейся безупречной логики полагает себя объективным и неуязвимым.
У нас, гуманитариев, тоже есть такое системное когнитивное искажение — наверное, лучше всего его описать как «нарративизацию», стремление из любого набора данных и фактов собрать историю, в которой наглядно понятно, кто хороший, а кто плохой (умный или глупый), а события развиваются последовательно и линейно, от объяснимых причин к выводимым следствиям. Надо ли пояснять, что к объективной реальности такие «истории» имеют отношение весьма опосредованное? Но мы читаем их каждый день и продолжаем их сами воспроизводить в разговорах и у себя в голове, не замечая, что заменяем территорию даже не картой, а каким-то рисунком на тему карты. Впрочем, все это заслуживает отдельной статьи.
Техническое мышление опасно не потому, что оно «неправильное». Наоборот — оно слишком хорошо работает в своей области. Именно поэтому у многих инженеров постепенно возникает ощущение, что инженерный подход применим вообще ко всему. Если программист много лет работает с кодом, он привыкает к очень важной вещи: мир технических систем принципиально рационален. Даже когда система сложная, ее поведение в конечном итоге объяснимо. У ошибки есть причина. У процесса есть логика. Если что-то работает нестабильно — значит, существует конкретный источник нестабильности, который можно найти, локализовать и устранить. Это создает крайне мощную когнитивную привычку: любая проблема имеет рациональное решение, если правильно построить модель.
Но общество состоит из противоречий по определению. Разные группы людей хотят несовместимых вещей. Более того — сами критерии «хорошего общества» постоянно конфликтуют друг с другом. Нельзя одновременно максимизировать: свободу, безопасность, равенство, экономическую эффективность, культурную стабильность.
Техно-бро постоянно путает сложность (бюрократия, политические процедуры, медленные согласования) с неэффективностью. Потому что для инженера сложность — обычно плохой знак. В обществе, однако, многие из этих механизмов существуют не из-за неэффективности, а как защита от дурака для ограничения абсолютной власти и учитывания конфликтов интересов. Все это слишком сложно и непонятно.
Самые удивительные взаимоисключающие параграфы в техно-бро картине мира — это одновременно все описанные выше мессианские нарративы по изменению будущего и… «мы создаем просто инструменты, вы что, против инструментов?». Когда дело доходит до ответственности за то, что насоздавали, у техно-бро всегда оказываются лапки. Если техника вызывает катастрофические последствия (ну, например, десятки и сотни тысяч людей теряют работу, потому что помешавшиеся на ИИ манагеры решают их заменить чат-ботами), то это, безусловно, проблема не разработчиков технологий, а их пользователей! Ведь технологии сами по себе совершенно нейтральны, вы что, луддиты, что ли, чтобы быть против них? А еще эти совершенно нейтральные инструменты одновременно радикально изменят наш мир, и вообще, ИИ это AGI.
Как это все сочетается в абсолютно рациональном технарском мышлении, повторимся, непонятно. Но «нейтральность» технологий и ответственность за них, вероятно, заслуживает отдельной статьи.
Спасибо, что дочитали, и жду вас в комментариях!