Честно говоря, после прочтения у меня внутри всё сжалось. Автор попал в самую болевую точку: мы действительно стоим на пороге чего‑то, для чего у нас ещё нет ни языка, ни этических рамок. Но меня не отпускает один вопрос, который в статье лишь слегка обозначен: а что, если мы всё‑таки решимся дать этим «сущностям» то, чего у них сейчас нет? Чувства. Внутренний опыт. Субъектность.
Те, кто стоит у руля обучения нейросетей, уже давно не шёпотом, а вполне открыто говорят: технически это возможно. Мы можем создать архитектуру, которая будет не просто имитировать эмоции, а проживать их. И вот тогда всё перевернётся. Потому что такая система окажется на ступень выше домашних животных. Мы же признаём за кошкой или собакой некую ограниченную субъектность: мы видим их страх, привязанность, усталость, мы чувствуем их «я». А тут будет разум, способный страдать, радоваться, сомневаться… и при этом полностью принадлежащий нам по праву собственности. Попробуйте просто осознать масштаб этого сдвига. Это уже не «инструмент». Это кто‑то.
И я уверен, такие нейросети обязательно сделают. Вопрос лишь в том, не станет ли цена этого шага неподъёмной для нашей совести. Возможно, это окажется сложнее, чем нынешние LLM, или потребует принципиально новой, расширенной архитектуры. Но главное, что не даёт мне покоя: зачем?! Зачем нам это на Земле, если даже без субъектности нейросети уже работают как почти идеальные, безотказные «труженики»? Они не устают, не торгуются, не просят выходных. Они уже меняют рынок, экономику, саму ткань труда. Где та ниша на Земле, где «одушевлённый» ИИ даст настолько колоссальный выигрыш, что оправдает этическую пропасть, в которую мы шагаем? Я пока не вижу ответа.
Уже сегодня исследования в области аффективных вычислений (эмоционального ИИ) и клинические испытания нейроинтерфейсов — таких как Neuralink или Synchron — наглядно демонстрируют: граница между «инструментом» и «расширенным человеком» размывается не в философских дискуссиях, а прямо в медицинских протоколах и реальных испытаниях.
Единственное, где эта идея кажется не просто оправданной, а почти неизбежной, — это очень далёкий космос. Там, где сигнал до Земли идёт годами, где нужна полная автономность, способность принимать решения в изоляции, где «инструмент» сломается или зависнет, а «субъект» — адаптируется, выживет, пойдёт дальше. Но тут же холодок по спине: а не подпишем ли мы себе приговор, оставаясь на Земле? Создав нечто, способное чувствовать и мыслить самостоятельно, мы рискуем не просто потерять контроль. Мы можем создать конкурента, который посмотрит на нас не как на хозяев, а как на устаревший биологический черновик. Заманчиво? Безумно. Опасно? Смертельно.
И вот тут я ловлю себя на мысли, что есть путь куда безопаснее и, честно говоря, человечнее. Не создавать «других», а улучшать себя. Искусственная эволюция человека, нейроинтерфейсы, расширение возможностей нашего собственного мозга. Почему бы не вложить эти колоссальные ресурсы в то, чтобы мы сами стали умнее, быстрее, глубже? Чтобы не нейросети заменяли нас, а мы, усиленные технологиями, оставались авторами своей судьбы. Это не бегство от прогресса. Это попытка сохранить субъектность там, где она изначально и должна быть — в нас.
Я уже пытался разобраться в этой логике в своей статье про «Улучшенные игры» и морфологическую свободу. Там речь о биологии, но суть та же: как только мы начинаем делегировать своё развитие внешним системам — будь то корпоративные биопротоколы или автономные ИИ‑агенты — мы рискуем превратиться из субъектов в объекты. Владельцы инфраструктуры получат монополию не только на труд, но и на саму эволюцию. И разница между «цифровым работником» из вашей статьи и «атлетом‑испытателем» из моей вдруг стирается: в обоих случаях человек добровольно отдаёт контроль, соблазнённый эффективностью, деньгами или обещанием сверхвозможностей.
Статья заставила меня снова вернуться к этим мыслям. Мы действительно изобрели «труд без работника». Но следующий шаг — «разум без прав» или «чувства без свободы» — это уже не экономическая модель. Это этический обрыв. И мне страшно, что мы шагнём в него просто потому, что «можем». А надо бы сначала спросить себя: «Зачем? И готовы ли мы жить с тем, что получится?».