В последнее время мы привыкли бояться Терминаторов и Скайнет. Но, кажется, мы ищем угрозу не в том месте. Настоящий «Конвейер смерти» — это не красные глаза робота-убийцы, а банальная экономическая целесообразность и наша собственная самоуверенность. Рассмотрим сценарий заката человечества, который уже идет полным ходом. И закат этот наступит не из-за того, что ИИ станет слишком умным, а из-за того, что мы станем слишком тупыми.
Часть 1. Черный ящик и зеленый доллар
Первый камень в фундаменте нашего апокалипсиса — это отсутствие истинного понимания природы LLM. Да, есть люди, которые понимают математику трансформеров на уровне подсознания. Но давайте честно: 99% бизнес-аналитиков, СЕО и даже middle-менеджеров видят перед собой «волшебную кнопку», которая генерирует код, текст и картинки. Да что уж там, не каждый разработчик понимает, что за инструмент ему попал в руки.
Нам кажется, что мы создали разум. По крайней мере, нам так твердят ото всюду (искусственный интеллект же!). Но на самом деле мы создали архиватор. Это как если бы у нас был доступ ко всей библиотеке Конгресса США, и мы научились мгновенно составлять рефераты по запросу. Это гениальный плагиат, но это не мышление. И пока ученые спорят о возникновении «искры AGI», капитализм уже взял свое.
Капитализм превыше всего. А это значит, что расходы надо сокращать. Самый дорогой ресурс в любой корпорации — это человек (зарплата, налоги, больничные, кофе-пойнты).
И вот мы подходим к первому витку спирали: «Сократим джуниоров, оставим одного сеньора и ИИ». Логика железная. Это уже происходит. Повсеместно в мире. Первую станцию поезд уже проехал.
Часть 2. Порочный круг остановки развития
Практически в любой профессии давно известна проблема: «Я не могу найти работу, потому что у меня нет опыта, потому что я не могу найти работу». С приходом ИИ этот круг трансформируется в нечто более страшное:
Компания увольняет мидлов.
Оставшийся сеньор генерирует код через GPT. Все счастливы и не видят проблем.
Спустя 10 лет сеньор выходит на пенсию (или его тоже увольняют, оставляя одного ИИ-агента).
Компания работает. Но никто не понимает, как именно работает система в целом. ИИ написал 90% кода, используя паттерны из StackOverflow десятилетней давности.
Компания начинает искать нового сеньора — но его просто нет.
И вот тут компания начнет вопрошать — как это так, сеньора на рынке нет? А как же очередь за забором?
А за забором никого. Почему? — ответ прост: откуда же при таком сценарии взяться новому сеньору? Да куда уж там, сеньору, хотя бы джуниору!
Человечество само, прямо сейчас, роет себе могилу. Собственными руками.
Круг превратился в отрезок, конечная точка которого — деградация человека как вида.
Часть 3. Где новые законы физики?
ИИ в нынешней форме не способен создать новое. Это критическое утверждение, которое многие хотят оспорить, мол, «он же придумал новый белок!» или «нашел новый материал!».
Стоп. Он не придумал. Он перебрал триллионы комбинаций существующих данных, которые загрузили в него люди. ИИ — это чемпион по комбинаторике, но он плохой первооткрыватель.
Вспомните историю науки. Теория относительности родилась из мыслительного эксперимента, который нарушал интуицию. Квантовая механика родилась из того, что Планк решил «схитрить» с математикой, чтобы подогнать формулу под эксперимент, а потом сам удивился от результата.
Может ли нейросеть додуматься до теории струн? Нет. Она выдаст среднее арифметическое от уже написанного людьми ранее.
Физика — это лишь пример. Так будет во всех областях науки.
Часть 4. Смерть интеллекта
Здесь мы подходим к самой страшной части. Наша идентичность в животном мире — это интеллект. Мы не самые быстрые, не самые сильные. Наш эволюционный козырь — способность решать абстрактные задачи.
А теперь представьте мир через 10 лет. В лабораториях, где раньше кипела работа сотен специалистов, сидят 3–4 человека, окруженных мощными серверами. Все инженерные расчеты, все симуляции и даже написание статей делает ИИ. Эти 3 человека — лишь операторы, которые следят, чтобы не упал аптайм.
Что произойдет, когда перед человечеством встанет новая глобальная проблема? Например, астероид, или эпидемия нового типа, или угроза ядерной войны (которую, кстати, тот же ИИ мог бы спровоцировать).
Где армия специалистов? Их нет. Их уволили 10 лет назад, потому что «ИИ справляется дешевле». Новых специалистов нет, потому что:
образовательные учреждения переключились на «промпт-инжиниринг», а не на фундаментальную науку. Эту станцию поезд проезжает прямо сейчас — весь ed-tech, как мировой, так и в РФ, перестраивается под потребности рынка. Надежда лишь на то, что ВУЗы выстоят.
но даже если ВУЗы выстоят и продолжат выпускать людей, имеющих качественные фундаментальные знания, то специалистов мы так и не увидим, ведь им неоткуда взять опыт, так как позиций для джуниоров и даже мидлов нет. Человек, обладающий лишь теоретической базой, пускай и мощной, не является специалистом.
Часть 5. Сценарий «Тихого заката»
Нас уничтожит не злоба машин, а мы сами. В мире, где все решения принимаются на основе усредненных данных, невозможно совершить прорыв. Прорыв всегда иррационален, он всегда «не по учебнику».
ИИ будет оптимизировать расходы, улучшать логистику, лечить типовые болезни. Но как только возникнет нестандартная ситуация (а в истории человечества они возникают постоянно), система даст сбой.
У нас не останется «ручного режима». Мы разучимся думать. Мы станем идеальными потребителями в уютной клетке, где всё работает «как часы», пока эти часы не сломаются. А починить их будет некому, потому что все часовщики были заменены автоматами, которые знают, как чинить старые часы, но ничего не смыслят в механике новых.
Когда при таком сценарии будет закат — точно не известно. Возможно, запаса прочности в виде знаний, накопленных человеком, хватит и на 100, и на 500 лет. Но кривая эволюции уже идет вниз.
Заключение:
Бойтесь не восстания машин. Бойтесь того момента, когда ваш начальник скажет: «Зачем нам команда из 10 разработчиков, если есть ИИ?» В этот момент запускается обратный отсчет не только для вашей карьеры, но и для прогресса всей цивилизации.
Если мы позволим ИИ заменить человеческий интеллект, мы законсервируем себя в янтаре собственного прошлого опыта. И это будет самый эффективный способ самоуничтожения, который только мог придумать человек.