Если посмотреть, как устроен наш сегодняшний мир, — на мой взгляд, неожиданно актуальным оказывается не Азимов со своими законами робототехники и не Стругацкие с их предсказаниями последствий информационной эпохи, а Сергей Снегов. Он угадал не столько технологии, сколько способы взаимодействия с ними, детально описав, как вычислительные системы становятся посредником между человеком и реальностью.
Главная идея Снегова вовсе не техническая. Его интересовал человек. В мире трилогии «Люди как боги» технологии освобождают людей от рутины, но не избавляют от необходимости развиваться. Наоборот, чем могущественнее становятся инструменты цивилизации, тем большее значение приобретают любознательность, творчество, смелость и способность принимать самостоятельные решения.
Читая «Люди как боги», неожиданно обнаруживаешь знакомые вещи: персональных ИИ-ассистентов, рекомендательные алгоритмы, цифровые профили и социальные рейтинги, облачные вычисления и даже музыку по запросу. Разумеется, все это замаскировано под технологии XXVI века.
Основные прогнозы Снегова не сбылись: космические корабли не исследуют Галактику, человечество не умеет запускать искусственные солнца и превращать пространство в вещество. Но удивительно, насколько похожими на реальность оказались детали повседневной очень комфортной жизни. Воодушевляет, что за всеми этими технологиями Снегов видел ту же задачу, которая стоит перед нами сегодня: как сделать человека сильнее и свободнее, не превращая его в придаток созданных им машин.
Экономика, освобождающая время человека
У Снегова автоматические производства обеспечивают людей всем необходимым. Человек не думает о том, где достать еду, одежду или как заработать на жилье. Он занимается тем, что ему интересно, а все остальное отдано на откуп автоматических заводов. Они производят все необходимое практически без участия человека.
…Я зашел в столовую и, не разглядывая, нажал три кнопки меню. Это была старая игра — выпадет ли то, что нравится? Мне повезло, автоматы подали мясные грибы — любимое мое кушанье. Два других блюда — сладенькое желе и пирог — были не так удачны, но согласно правилам игры я съел и их.
В шестидесятые годы, когда начала выходить трилогия «Люди как боги», это выглядело чистой фантастикой и недостижимым идеалом. Сегодня — уже не совсем.
Коммунизм не восторжествовал. Но если отвлечься от денежной составляющей — маркетплейсы доставляют товары за сутки. Генеративные модели производят тексты, изображения и код почти мгновенно. Облачные сервисы выдают вычислительные мощности по запросу. Многие цифровые ресурсы напоминают эдакую коммунальную услугу. Конечно, мы еще очень далеки от экономики полного изобилия (да и денежный вопрос всплывает). Но направление движения угадывается.
Снегов писал, что если избавить человека от необходимости бороться за выживание, тот займется творчеством, наукой и саморазвитием.
Но освободить человека от рутины недостаточно. Нужно еще дать ему возможность выйти за пределы собственных физических ограничений. И в этом ему тоже помогают машины.
Технологии, которые расширяют возможности
Научная фантастика часто пугает все новыми и новыми инструментами контроля. У Снегова все иначе. Герои перемещаются между планетами, получают доступ к знаниям, общаются на огромных расстояниях, то есть здесь технологии не создают ограничения, а снимают их.
…Все электростанции Земли в конце двадцатого века старой эры не составляли трех миллиардов киловатт, то есть не достигали трех альбертов. Любой звездолет несет в себе энергию, в миллион раз превышающую ту, какой располагало все человечество в год всеобщего торжества коммунизма. И эта исполинская мощность может быть полностью превращена в сверхсветовую скорость — она вся до последнего грамма будет работать на аннигиляторы хода.
Примерно как интернет в начале 2000-х.Так или иначе сейчас можно работать из любой точки мира. Навигатор избавляет от необходимости запоминать маршруты. Автопереводчики стирают языковые барьеры.
Конечно, это генерирует новые зависимости и ограничения для человека — попробуй-ка спрячься в этом цифровом мире! Но базовая идея Снегова о том, что технология прежде всего расширяет пространство возможностей человека, пока выглядит вполне жизнеспособной.
…Проходя мимо комбината бытового обслуживания, я вспомнил, что по возвращении не менял верхней одежды, пальто и шапка порядочно поизносились, да и фасон ныне изменился. В комбинате было пусто, как и на улицах. Мне вынесли на примерочном конвейере тридцать моделей пальто, костюмов и шапок. В один из костюмов я вложил свой адрес, чтобы направили его на дом, а пальто надел. Новое пальто было красивее, но не так удобно — я всегда чувствую себя неудобно в новом, пока не разношу. Я вышел удовлетворенный, что покончил со старой одеждой, и сожалея о ней.
Звездолеты, гравитационные двигатели, системы связи, преобразователи материи — это машины, которые помогают развиваться человеку вовне. Но у Снегова есть и более интересная мысль: машины, которые помогают развиваться ему самому.
Алгоритмы, помогающие найти свое место
Машины в мире Снегова умеют оценивать навыки и персональные склонности людей. Причем речь идет не о социальном рейтинге в духе антиутопий. Наоборот, вычислительные системы помогают находить наиболее подходящие сочетания людей и задач. Хотя место случаю в этой системе тоже находится.
Перед экспедицией на Ору герои проходят многоступенчатый отбор. Анализируются способности, навыки, психологические особенности и профессиональная пригодность. При этом окончательное решение оказывается сложнее простого подсчета баллов. Главный герой успешно проходит все испытания, но не попадает в первый состав экипажа — не выпал жребий.
…При отборе претендентов у меня не оказалось тех преимуществ, какими блистали мои друзья. Без Ольги, Аллана и Леонида дальние поездки невозможны — они инженеры и командиры космических кораблей Андре тоже необходим: мало кто сравнится с ним в умении расшифровывать незнакомую речь. И Лусин нужен: он познакомится с иными формами жизни, некоторые из них попытается потом воспроизвести искусственно. Тем более потребуется знаток старины Ромеро. Кто знает, не повторяют ли иные обычаи и законы новооткрытых обществ того, что уже некогда цвело и увяло на Земле? Ну а кому там нужен я?
— В жизни не встречал большего глупца, чем ты! — закричал Андре. — Я спрашиваю о другом: добивался ли ты, чтоб тебя зачислили в экспедицию? Что ты сделал для этого?
Я терпеливо разъяснил Андре, что еще год назад записался на отборочный конкурс. Большая Государственная машина три месяца назад приступила к обработке данных. Всего нас было около шестидесяти миллионов человек, но после первой же отбраковки по возрасту и здоровью осталось три с четвертью миллиона.
— Ты был среди прошедших первую отбраковку?
— Да. Легче от этого мне не стало. Машина последовательно сужала круг отобранных. В конце концов осталось сто тысяч человек, удовлетворявших всем условиям конкурса, и среди них снова был я. И тогда она бросила жребий. Мне выпала пустышка…
Когда обстоятельства меняются, именно главный герой оказывается наиболее подходящим кандидатом (дополнительная оценка качеств сработала).
— Звездожители уже съезжаются на Ору. Встретиться с обитателями других миров обязательно, — таково мое мнение. Как тебе известно, руководить совещанием на Оре поручается мне. Я хочу взять тебя секретарем.
— Секретарем? Что это такое? В жизни не слышал.
— Была в древности такая профессия. В общем, это помощник. Думаю, ты справишься.
— Я тоже так думаю. Тебе придется запросить Большую, подхожу ли я в секретари…
— Большая уже сделала выбор. Я попросила в секретари человека мужественного, умного, быстрого до взбалмошности, решительного до сумасбродства, умеющего рисковать, если надо, жизнью, любящего приключения, вообще неизвестное, — никто теперь не знает, с чем мы столкнемся в далеких мирах. И Большая сама назвала тебя. Должна с прискорбием сказать, что ты один на Земле обладаешь полным комплексом сумасбродства.
Похожий подход Снегов видит и в личных отношениях, хотя и описывает это не без некоторой иронии. В романе упоминается расчет взаимной пригодности людей. Андре и Жанна получают сначала довольно тревожный результат, затем более высокий, поскольку приспосабливаются друг к другу, учатся учитывать особенности партнера. Совместимость оказывается не фиксированной характеристикой, а динамическим показателем.
— Перед женитьбой мы с Жанной запросили Справочную о нашей взаимной пригодности к семейной жизни. И Справочная объявила, что мы подходим друг другу всего на тридцать девять процентов.
— Вот как! Никогда бы не подумал.
— Мы сами не ожидали. Очевидно, влюбившись, мы не замечали, что нас разделяло. Я был как пришибленный. Жанна плакала.
— Помню-помню, перед женитьбой ты ходил мрачный...
— Будешь мрачным! Соединиться, имея прогноз, что брак неудачен!.. Потом я сказал Жанне: ладно, пусть тридцать девять, да в старину люди сходились при двух-трех сотых взаимного соответствия, и ничего — жили!.. Она твердила, что мы друг другу быстро опротивеем, но я настаивал — пришлось ей уступить... Первые недели совместной жизни мы сдували друг с друга пушинки, во всем взаимно уступали, только бы не поссориться. Потом как-то остыли, и снова появился страх, не берут ли верх зловредные шестьдесят один процент над дорогими тридцатью девятью? Мы опять запросили Справочную. И что же? Взаимная наша пригодность составляла теперь семьдесят четыре процента!
— Ого!
— Да. Семьдесят четыре. Нам стало легче, но не очень. Ты напрасно улыбаешься. Пригоден я для Жанны или непригоден, но я не хочу ее терять. В день, когда была решена поездка на Ору, мы получили последнюю справку: наша взаимная пригодность достигла девяноста трех процентов — почти полное единение. Но и семь сотых лежат камнем на душе.
Сегодня мы постепенно приходим к тем же идеям. HR-системы оценивают кандидатов на вакансии по десяткам параметров: образованию, опыту, навыкам, результатам тестов и особенностям поведения. Дейтинговые сервисы строят модели совместимости на основе интересов, возраста, локации, психологических профилей и сотен других признаков. По сути, и там, и там работает один и тот же принцип — алгоритмический скоринг людей.
Снегов был осторожен в своих прогнозах. Его машины умеют рекомендовать, но не принимают решения за человека. Тут даже нашлось место для иронии, ведь высокий процент совместимости не гарантирует счастья, а низкий не означает обреченности отношений.
Спустя шестьдесят лет после выхода романа сомнение, стоит ли программировать свое влечение, звучит даже актуальнее. Мы все чаще доверяем алгоритмам выбор сотрудников, друзей, партнеров и собеседников. Правильно ли это?
…Я вспомнил, как Ромеро рассказывал смешную историю. Нашлись два романтика, мужчина и девушка, до того уверовавшие в безошибочность Справочной, что всерьез поручили ей отыскать себе пару. И Справочная, перебрав всех жителей Земли, свела именно их как максимально пригодных для совместной жизни. Теперь дело оставалось за тем, чтобы встретиться и влюбиться. Они встретились — и почувствовали друг к другу отвращение.
Но развитие — это не только выбор профессии или спутника жизни. Не меньшее значение имеет то, что происходит в душе человека.
Технологии, настраивающие чувства
В мире Снегова вскользь упоминается музыка, которая подбирается под конкретного человека и его текущее состояние — эдакий персональный поток звуков, который генерируется здесь и сейчас.
…Когда Орион повернулся над головой, я лег на диван и заказал Охранительнице музыку под настроение… Я считаю изобретение синтетической музыки для индивидуального восприятия величайшим подвигом человеческого гения. Она лишь для тебя — другой бы ее не понял. И древние Бах с Бетховеном, и более поздние Семенченко с Кротгусом, и штукари-модернисты Шерстюк с Галсы творят для коллективного восприятия. Они подчиняют слушателя себе — хватают меня за шиворот и тащат, куда нужно им, а не мне. Иногда наши стремления совпадают, и тогда я испытываю наслаждение, но это нечасто.
В 1966 году это выглядело фантастикой. Но сегодня музыку под вкусы пользователя подбирают десятки сервисов. А следующий шаг происходит на наших глазах. Генеративные музыкальные модели уже создавать композиции на лету под запрос пользователя. Фактически это и есть «музыка по запросу», которую описывал Снегов. Осталось лишь протянуть «мостик» к мыслям в голове, чтобы и запрос не формулировать.
…Индивидуальная музыка как раз та, какой мне в данный момент хочется.
Андре обзывает ее физиологической, но почему я должен бояться физиологии? Пока я живу, во мне совершаются физиологические процессы, от этого никуда не денешься. Вскоре зазвучала топкая мелодия. Я сам создавал ее — Охранительница лишь воспроизводила то, чего я жаждал.
Кстати, у Снегова описана и противоположная концепция — симфония Андрэ, которая ударяет сразу по всем органам чувств, «стрижет» всех под одну гребенку. Читая ее описание, трудно не вспомнить современные 4D-кинотеатры.
…Прежде всего мы провалились. Мы недвижно сидели в своих креслах, от неожиданности вцепившись в ручки, и вместе с тем ошалело неслись вниз. Состояние невесомости наступило так внезапно, что у меня защемило сердце. Думаю, другие зрители чувствовали себя не лучше. А потом зазвучала тонкая мелодия, в воздухе поплыли клубящиеся разноцветные облака и возвратилась тяжесть. Мелодия усиливалась, электронный орган гремел во все свои двадцать четыре тысячи голосов, цветовые облачка пронизало неистово пляшущее сияние, все пропало в кружащемся многокрасочном дожде искр, не было видно ни стен, ни потолка, ни дальних соседей, а ближние вдруг превратились в какие-то факелы холодного света. И тут свет стал теплеть, мелодия убыстрилась, увеличилась тяжесть, в воздухе волнами пронеслась жара. Я уже собирался сбросить пиджак, как зал озарила синяя молния, все кругом запылало зловещими фиолетовыми пламенами и нестерпимо ударил ледяной ветер. Никто не успел ни отвернуться, ни защитить лицо руками. Оледенение разразилось под свист и жужжание электронных голосов. Перегрузка быстро увеличивалась, легким не хватало кислорода. Снова взревели трубы, запели струны, зазвенели медь и серебро, в фиолетовой тьме зажглись оранжевые языки. Ледяное дыхание сменилось волнами теплоты, перегрузка падала, превращаясь в невесомость. Воздух, ароматный и звучный, сам лился в горло, голова кружилась от тонких звуков, нежных красок, теплоты и легкости в теле.
Так повторялось три раза — багровая шара под грохот труб и невесомость, стремительно нарастающий, пронзительно синий холод под перегрузку, почти удушье, мелодичное розовато-оранжевое возрождение, овеянное теплотой. А потом в последний раз ударил мороз, промчалась жара и, уже по-обычному, солнечно вспыхнул потолок концертного зала. Первая часть симфонии кончилась.
Многие из них уже используют вибрацию кресел, воздушные потоки и прочие эффекты, чтобы расширить восприятие фильма. Совпадение не буквальное, но направление развития угадано точно.
Вслед за музыкой по запросу, которая помогает человеку лучше чувствовать, следующий логичный шаг — система, которая помогает ему лучше понимать самого себя.
Цифровой двойник как следующий этап развития
Самое интересное предсказание Снегова — не звездолеты с прописанной фантастической физикой, а Охранительница. Сокращая описание автора: это персональная интеллектуальная система, которая знает человека лучше, чем он сам.
…И еще я думал о том, что мне придется далеко умчаться от этого места, где среди ста миллиардов элементов Большой имеется и неповторимо мой уголок в миллион клеточек, моя Охранительница, мудрый и бесстрастный мой наставник и поводырь. Я не раз сердился на Охранительницу, обзывал ее бесчувственной и бесполезной и даже хвастался своим ироническим отношением к управляющим машинам. Но, по-честному, я привязан к ней, как не всегда привязываются к живому человеку. Кто, как не она, бдительно отводит от меня опасности, оберегает от болезней и необдуманных шагов, а если меня что-то гложет, разве она не докапывается до причин неполадок и упадка духа, и маленькая, не больше меня самого, часть Большой ставит их перед всем обществом как важную социальную проблему, если, по ее критерию, они того заслуживают?..
Она следит за деятельностью подопечного, напоминает о важных вещах, помогает принимать решения и замечает закономерности (и опасности), которые сам человек не видит.
…Полеты на пегасах я драконах в Столице по-прежнему запрещены, зато сегодня жители высылали в воздух на авиетках. Как всегда, усердствовала детвора, этому народу нужен лишь повод для шума, а разве есть лучший повод побеситься, чем Большая летняя гроза? Они отчаянно кувыркались над домами и деревьями. Я знал, что Охранительницы следят за ними, но становилось не по себе, когда малыши принимались соревноваться в падении с сороковых этажей. Один из этих десятилетних храбрецов с воплем обрушился на меня. Охранительница, разумеется, вывернула его авиетку, мальчишка пронесся мимо и повис, покачиваясь, метрах в десяти.
— Вот догоню тебя! — рявкнул я, стараясь сдержать улыбку.
— Не догоните. Я от всякого убегу.
И он тут же удрал наверх — выглядывать с орлиной высоты новую жертву.
И сегодня, пусть не одним, а целой связкой сервисов, мы приблизились к этой идее вплотную.
Фитнес-браслеты собирают информацию о пульсе, сне, уровне активности, вариабельности сердечного ритма, тренировках, перемещениях и привычках пользователя. Они же напоминают, что надо встать и размяться или, наоборот, не пропустить время отхода ко сну. Google уже давно умеет вылавливать информацию о встречах и билетах из переписки, забивая ее в календарь. А с появлением больших языковых моделей анализ и рекомендации вышли на принципиально новый уровень. Впервые в истории появились системы, которые способны помнить о рядовом человеке больше фактов, чем способен удержать в памяти он сам.
Снегов даже постулировал, что Охранительнице было бы неплохо извлекать ценные идеи из повседневной деятельности человека и передавать их обществу на обсуждение, чтобы они не потерялись.
…И разве я не всегда уверен, что если мне явится полезная людям идея, то, хоть сам я и забуду о ней, Охранительница, подхватив ее, введет в код Большой, а та немедленно реализует или поставит на обсуждение перед всем человечеством, — пусть лишь мелькнувшая у меня в мозгу идея стоит такого внимания! Я также вспоминал, что, если ошибусь, совершу неудачный поступок, лишь бы он не вредил другим, Охранительница промолчит о моих неудачах, ни один друг, самый вернейший, не хранит так тайн, как она!
Нет, для меня она не была просто умно придуманной, умело смонтированной частью громадной машины — она была своеобразной частью меня самого, моей связью со всем человечеством, миллионами рук, протянутых мной каждому человеку!
И здесь уже становится немного неуютно. Неужели уже через некоторое время машина сможет залезть мне в голову и выудить оттуда любую мысль?
Современные ИИ действительно обучаются на огромных массивах человеческой активности. Пусть и не в той форме, как это описывал Снегов. Но сама идея коллективного накопления знаний через взаимодействие людей и вычислительной системы выглядит неожиданно знакомой. И где в этом мире границы приватности?
Напоследок хочется привести цитату, сформулированную еще 50 лет назад, но отлично описывающую то, какое место должны занимать ИИ-ассистенты в создании чего-то нового.
…Теперь Андре не было. Исчез гениальный генератор новых идей. Его надо было заменять, хотя бы частично. У меня и в помине не было вдохновенной легкости Андре. Но я неустанно, непрерывно размышлял — я хотел заменить трудом его интуицию. Там, где он одолевал простор неизвестности двумя-тремя исполинскими прыжками, я пробирался ползком, петлял, возвращался обратно и снова полз вперед.
Во всяком случае, я был настойчив.
Я садился на диван, закрывал глаза, тысячи раз возвращался мысленно все к одной картине. Мы сжали полями слабеющего головоглаза, он отчаянно гравитировал своим: «Помогите! Помогите!» Его гравитационные призывы уходили с нормальной световой скоростью, с той же скоростью возвращались ответы. Можно вычислить по времени, разделявшему призыв и ответ, расстояние от Сигмы до крейсера, вышедшего им на помощь. Но крейсер, летя в сверхсветовой области, раньше ночи добраться не мог, — так он сообщал. Сколько дней или недель светового пути разделяло их? А разрушитель беседовал с крейсером так, словно тот стоял рядом.
«Что же это такое? — спрашивал я себя. — Что может двигаться в пространстве, не уничтожая его, со сверхсветовой скоростью?»
Я пытался разрешить эту загадку даже во сне. Как-то я запустил дешифратор на излучения своего мозга, и он записал, что и сонный я бьюсь мыслью все над тем же.
Все во мне без перерыва работало над проблемой, весь я, бодрствующий и отдыхающий, был заведен, как автомат, на ее решение, а если и приходилось отвлекаться, то я слушал и отвечал, а про себя продолжал рвать тенета грозной загадки.
И мало-помалу, еще смутное, стало вырисовываться решение. Оно было до того просто, что я вначале в него не поверил.
Но все пути вели в одну точку, все логические нити завязывались в один узел. Я передал найденную гипотезу МУМ. МУМ известила, что гипотеза непротиворечива и может быть принята за исходную посылку. Я вышел наконец на верную дорогу. Путь до точного результата был еще долог — я знал, что пройду его до конца.
Роль машины — ассистент. Она должна быстрее записать, возможно, оттестировать гипотезу. Но пусть творчество остается человеку!
Если погружаться в детали, в «Люди как боги» можно найти еще много аналогий текущей реальности. «Вызов по шифру» напоминает наши Zoom и Телемост, ИИ уже научился омолаживать и старить фотографии (как в романе можно было генерировать портрет ребенка по формулам), даже синтетическое мясо уже вполне похоже на правду. Но важнее, что Снегов описал будущее как непрерывный диалог человека с вычислительной средой. В его романе интеллектуальные системы помогают выбирать профессию, находить партнеров, организовывать экспедиции, сохранять идеи, получать знания и принимать решения. Мы движемся именно в этом направлении.
Пожалуй, единственное, в чем Снегов оказался слишком большим оптимистом, — он верил, что все эти технологии автоматически сделают людей лучше…