Давно уже пришла пора выбросить на помойку идею арифметико-логических устройств (в просторечии АЛУ), на которых работают ваши и наши компьютеры (ибо именно из-за них все эти технологии перестали быть достаточно круты, чтобы делать действительно клевые штуки не только в фильмах Ридли Скотта), но воз и ныне там.
С момента изобретения триггеров сто лет назад задачи, которые мы пытаемся решать с помощью тех же триггеров, несколько изменились: мы пытаемся делать автопилоты, системы компьютерного зрения, сложные модели мира — и продолжаем решать всё той же логикой, придуманной под совсем другой масштаб и другой уровень сложности. Технически можно, но стоимость этого "можно" возросла дальше некуда, а потолок возможностей всё ближе. Нужен другой подход.
Сейчас расскажем, какой:)
Как работает АЛУ
(Если вы вдруг не знаете, как работает АЛУ, то что вы делаете на хабре?) Прочитайте википедию или любую статью на эту тему (например, на study.com)
Зачем мы это прочитали?
Все длинные и многословные (как эта) статьи про АЛУ в итоге сводятся к тому, что АЛУ выполняет примитивные операции. Это не значит, что АЛУ – это плохое, примитивное устройство. Это значит, что оно выполняет примитивные операции.
Ну и что?
Ну и то, что набор команд, который используется в АЛУ, никому на самом деле не нужен. То есть конкретно вам не нужно выполнять операцию десятичной арифметики, а тем более высшей математики через двоичную систему счисления. Это же крайне неудобный для человека способ решения “семь умножить на восемь”, согласитесь.
Все это нужно компьютеру, потому что по-другому современные компьютеры не умеют. Вы не будете умножать в уме 7 на 8 так, как это потом будет сделано на компьютере. А если это будет не “7 на 8”, а сложение или не дай бог перемножение скольких-то там миллиардов со сколькими-то там миллиардами, то способом, каким это решает компьютер, лично вы никогда не сможете решить этот пример, даже если захотите – вам не хватит жизни. Для таких задачек люди придумали потрясающий способ сложения, умножения и деления “в столбик”, которому учат в начальной школе. Есть гении, которые моментально складывают, перемножают, делят любые числа в уме - но есть подозрение, что они делают это не таким способом, как это делает компьютер.
И что?!
Итак, АЛУ - это про то, как выполнить на компьютере требуемую человеку операцию хоть каким-то способом – удобным, собственно, для самого компьютера.
И этот способ почему-то уже слишком долгое время считается чуть ли не единственно возможным. А всё из-за того, что кто-то умный сто лет назад придумал триггер, работа которого основана на алгебре логики, которую придумал Буль почти двести лет назад, которая основана на двоичной системе счисления, которую придумал Лейбниц больше трехсот лет назад, который подсмотрел ее в китайской Книге Перемен, которой как минимум две тысячи семьсот лет.
И спустя пару десятков лет после изобретения триггера появились первые ЭВМ. Поскольку ничего больше толком предложено не было (а зачем предлагать, если все и так прекрасно работает - миллиарды складываются и перемножаются, а больше, по сути, от ЭВМ (электронно-(внимание!) вычислительной машины) ничего и не требовалось до недавнего времени), то теперь все бесконечное число девайсов вокруг нас всю информацию хранят и оперируют ею в виде 0 и 1.
В середине прошлого века для решения тогдашних прикладных задач это было удобно. Но ведь задачи с тех пор изменились, согласитесь. Количество информации и данных, которые пытаются обрабатывать с помощью компьютеров для решения новых задач, стало прямо-таки титанически огромным. Взять "хотя бы" Full Self Driving систему, над которой бьется вся передовая мировая автопромышленность. Но не кажется ли вам, что нулей и единиц уже недостаточно для решения таких новых задач? Похоже, просто все привыкли пользоваться этими элементарными единицами информации, и, несмотря на их очевидное неудобство, продолжают их использовать.
В итоге задачи и их решение, да и само развитие ИТ, ограничено уже на уровне этих самых элементарных единиц, 0 и 1. На самом деле это очень сильная (простите за нескромность) мысль. Нули и единицы задают тон, тренд, являются альфой и омегой ИТ-мира, потому что определяют, какими должны быть архитектура компьютера, какими должны быть решения задач и в конце концов какие это должны быть задачи. Степень влияния нулей и единиц на результат такова, что мы бы назвали ее неотвратимой степенью влияния. Нули и единицы определили и определяют до сих пор направление развития информационных технологий – а заодно и их ограниченность. Это никого не смущало (и, прямо скажем, не многих смущает до сих пор), потому что количество практических задач, которые можно решать таким способом, впечатляет.
Арифметико-логический паровой двигатель
Но спросите себя, насколько плох паровой двигатель? Согласимся, вопрос сам по себе глупый. Для 19 века это было потрясающим изобретением. Оно таковым и остается, поскольку повлияло буквально на всю человеческую цивилизацию, примерно как огонь Прометея, окультуривание пшеницы, изобретение металлических орудий и оружия, футбол и пенициллин.
И все-таки странно было бы сегодня заявлять, что паровая тяга - единственно возможная, самая эффективная, самая эргономичная и самая подходящая для решения большинства практических задач, стоящих перед человечеством. Да, когда-то паровой двигатель двигал автомобили (локомобили), паровозы, станки, совершил промышленную революцию во всем мире.
Сейчас мы с вами уверены, что парового двигателя было бы недостаточно для решения всех современных задач, хотя теоретически, наверно, можно представить, как все вокруг работает на паровой тяге. Может быть и в космос можно было полететь на паровой тяге, только зачем? Даже двигателя внутреннего сгорания уже недостаточно для задач, которые стоят перед одной из самых консервативных отраслей в мире – автомобилестроением.
Тем не менее прямо сейчас на технологиях почти столетней давности – триггерах с их нулями и единицами – гигантские корпорации пытаются разработать нечто принципиально новое. Компании, R&D команды, ученые по всему миру пытаются решать качественно новые задачи, задачи качественно другого уровня сложности – но все они ограничены всё теми же вводными 0 и 1, то есть решают эти принципиально новые, невероятные задачи принципиально старым способом, неудобным для этих задач. И даже так называемый искусственный так называемый интеллект ничего в этом смысле не меняет. А даже и наоборот. Это примерно как запускать на Луну ракету на паровой тяге. Вероятно, и эту задачу можно решить таким вот способом. Но какой ценой?
Задачи становятся всё сложнее и сложнее, можно даже сказать всё смелее и смелее, и на их решение тратится всё больше и больше ресурсов – финансовых и интеллектуальных – просто потому, что чем сложнее задача, тем неудобней для их решения современные технологии, основанные на 0 и 1, и тем больше нужно ресурсов, чтобы старым когда-то добрым способом решить новые задачи. Никто об этом не думает, но и никто уже не считается с затратами, не рассчитывает эффективность проектов, надувая огромный пузырь экстенсивного развития, в котором какие-то задачи решаются просто ради решения, а не их практического применения (которое часто невозможно, потому что это оказывается слишком дорого даже для всех денег мира).
Давайте прямо скажем: некогда скоростное шоссе перешло в тропинку, ведущую в топкое болото. Современные технологии во многом себя исчерпали. Да, триггер и АЛУ – тоже (как паровой двигатель в 19 веке) потрясающее изобретение для 20 века. Да, можно изобрести еще огромное количество устройств, разработать приложений, решить задач с помощью ИИ и МО. Но то, к чему все сегодня свелось, можно по сути описать так: “Нам нужно решить какую-то особенно сложную задачу, которую раньше никто не решал. Давайте просто увеличим мощность парового двигателя, или поставим рядом 100 самых мощных паровых двигателей и получим супер мощную машину, которая сможет…да вот, например, полететь в космос”. Скажете, раньше транзисторы были огромные, ламповые, а теперь стали наноразмерные и полупроводниковые? Безусловно, но ведь внутренняя логика осталась неизменной. Гонка процессоров за увеличение производительности ведется за счет увеличения количества транзисторов на единицу площади, но по своей сути ничего не меняется. Человечество подошло к черте, которую не преодолеть традиционными, привычными методами.
Сейчас у нас есть нули и единицы, придуманные Лейбницем (который подсмотрел их у древних китайцев), затем с их помощью Булем была разработана алгебра логики, но на этом как-то все и остановилось (не считая, конечно, того, что на внутреннем уровне в АЛУ увеличилось количество выполняемых операций по сравнению с первоначальным замыслом создателя триггера - но, опять-таки, это ничего не меняет в принципе). В результате сегодняшние АЛУ является частью процессора и эти АЛУ считают свои гениально примитивные задачки, но они, увы, на самом деле ничего не решают. В компьютере гениально простая алгебра логики переводится в сложную математику – ее на это обрекают программисты, поскольку только в таком виде они умеют ставить задачи и контролировать процесс получения решения. Это и называется “программировать”.
Получается, нужен какой-то другой АЛУ, да?
Да, но не только другой АЛУ. Нужен другой АЛУ, который будет работать не как АЛУ, не с 0 и 1. Например, как вы знаете или догадываетесь, наш мозг для принятия решений (вычислений) не использует ни высшую математику, ни 0 и 1. Нам ничего из этого не нужно, чтобы поймать мяч. Мы производим нужные нам вычисления как-то иначе. Но почему бы тогда не представить такое Устройство, которое тоже умеет делать вычисления, а точнее работать с информацией (собирать, обрабатывать, принимать решения) без использования алгебры логики и без сложной математики дифференциалов и квадратных корней.
Нам нужно нечто другое, не АЛУ, а какое-то другое “У”. Устройство, которое будет воспринимать информацию. Назовем это устройство пока персиватором или персивером, от глагола to perceive, воспринимать, по аналогии со словом “процессор”.
Чем нас не устраивает слово “обработчик” (процессор)? Говоря про обработку информации, мы отсекаем львиную долю важных стадий работы с информацией. Ведь сначала информацию нужно каким-то образом собрать “как есть” и только затем уже что-то с ней делать, как-то ее обрабатывать, что-то вычислять, то есть принимать решение – всё то, с чем так прекрасно справляется наш мозг.
Поэтому наше гипотетическое устройство должно работать с информацией на более низком уровне, которое умеет принимать и обрабатывать информацию как она есть, а не представленную в виде 0 и 1 – то есть прям как мозг. Соответственно, у такого устройства, которое мы только что очень удачно назвали персиватором/персивером, на входе должны быть другие элементарные единицы, которые должны взаимодействовать между собой по иным законам, чем 0 и 1 в АЛУ.
Если не 0 и 1 - то что?
Как вы уже (не)догадываетесь, у нас есть ответ. И этот ответ – уже легендарная TAPe (Theory of the Active Perception), которая описывает, как человеческий мозг воспринимает информацию. TAPe - это новый способ обработки информации, который, как вы уже тоже догадались, мы и предлагаем использовать в этих персиваторах/персиверах.
Когда мы говорим, что такие устройства должны работать с информацией как наш мозг, нужно уточнить одну вещь. На самом деле теорий, объясняющих, как это делает наш мозг, довольно много, при этом нет какой-то одной главной, принимаемой всеми учеными за истину. Поэтому как именно наш мозг обрабатывает информацию никто не знает. Но мы небезосновательно надеемся (небезосновательно – просто потому, что, в отличие от всех остальных коллег-ученых, у нас есть работающие технологии на основе нашей теории), что TAPe сильно ближе других технологий и алгоритмов к восприятию и обработке информации так, как это делает мозг. Другими словами, TAPe (пока) – не теория устройства и функционирования мозга, TAPe – это логика, метод, который более точно описывает работу мозга, чем технологии, использующие высшую математику, которая никакого отношения к работе мозга не имеет.
Короче говоря, персиватор/персивер, о котором мы говорим как о замене АЛУ, мог бы работать на основе TAPe, используя в качестве элементарных единиц не 0 и 1, а элементарные единицы TAPe.
Proof of concept
На основе TAPe уже созданы технологии и продукты, которые на порядки эффективней позволяют работать с видео. Да, компания еще не стала “единорогом”, и было бы здорово жить в мире, в котором все было бы немного проще. Но пока все работает по старому доброму правилу “Идея гениальной инновации стоит 1$, разработка продуктов на ее основе - 10$, а продажа этих продуктов - уже 100$”. В реальности эта геометрическая прогрессия выглядит еще неприятней.
Тем не менее, первые две стадии мы уже прошли и спокойно зашли на территорию третьей: мы создали кучу всего, в том числе первый (и единственный) в мире сервис поиска видео по видео (именно по видео, а не по описанию, кадру и тд). В режиме реального времени, практически моментально в огромных массивах видео можно искать и находить (или не находить) нужные вам совпадения. Фактически, мы обрабатываем и сравниваем мгновенно года видео. Кстати, Google потратил на разработку в чем-то похожей технологии $100 млн (и продолжает тратить деньги на ее поддержку) на Content ID - систему, которая следит за соблюдением авторских прав на YouTube. Для разработки Content ID были привлечены действительно лучшие умы в том числе в области искусственного интеллекта, включая легендарного Джеффри Хинтона.
$100 млн, больше десяти лет, лучшие умы для решения на самом деле не самой сложной задачи – вот что мы имеем в виду, когда говорим о недостаточности 0/1, о том, что эта концепция уже себя исчерпала и что для решения современных задач старыми способами требуется все больше ресурсов.
В то же время нашей технологии благодаря TAPe для решения тех же самых задач не требуются такие основополагающие понятия в области ИИ/МО, computer vision и пр., как градиентный спуск или операция свертки. TAPe одномоментно снимает с любого изображения ключевые признаки, по которым это изображение распознается. При этом таких признаков в TAPe всегда минимально достаточное количество (то есть оптимальное), TAPe “узнает” их автоматически.
А при чем здесь АЛУ?
Современные компьютеры на паровой тяге с их АЛУ не дают развернуться TAPe во всей ее мощи. TAPe основана и работает с принципиально другими единицами информации, которые сами по себе являются значимыми – в отличие от 0 и 1. Это в том числе значит, что на единицу информации в TAPe приходится на порядки (на порядки порядков) больше значимой информации, чем в одном старом-добром бите. Но поскольку TAPe приходится иметь дело с данными, представленными в виде 0 и 1, то эти данные приходится конвертировать в нужный для TAPe формат, затем конвертировать обратно…И все равно эффективность технологий в области видео на базе TAPe гигантски превосходит “традиционные” технологии. Остается только догадываться (а мы догадываемся), каких результатов можно будет добиться, если построить компьютер, обрабатывающий информацию не через 0 и 1, а через элементарные единицы TAPe.
Но что это должен быть за компьютер? Может быть – барабанная дробь – квантовый? Или, хе-хе, нейроморфный? Или еще какое-нибудь маркетинговое чудо-юдо? Но откройте любую статью о квантовых или нейроморфных процессорах, и вы увидите, что в основе этих инноваций лежат всё те же старые добрые АЛУ с их традиционной алгеброй логики, а значит и всё с теми же 0 и 1. Однако такой алгебры логики явно уже сейчас, для современных CPU, недостаточно для решения текущих задач. Здесь (здесь – то есть уже вообще везде) нужен изначально другой подход, другие принципы, чтобы перестать запускать ракеты в космос на ста паровых двигателях. Нужны не просто принципиально другие устройства (не-АЛУ), а нужны такие не-АЛУ, которые будут работать на других вычислительных методах.
Да, АЛУ и двоичная логика сделали возможным весь нынешний цифровой мир, и в этом смысле они по значимости действительно соседствуют с колесом, паровым двигателем и электричеством. Но мы пытаемся запускать в «космос» задачи нового уровня сложности, продолжая наращивать мощность всё того же парового двигателя: больше транзисторов, больше флопсов, больше дата‑центров — вместо того чтобы сменить сам принцип работы с информацией.
Если мы хотим выйти из этого неминуемого тупика, нам нужны устройства, которые изначально работают не с 0 и 1, а с другими элементарными единицами — более насыщенными и ближе к тому, как информация обрабатывается мозгом. Мы считаем, что TAPe может стать фундаментом для таких устройств: не‑АЛУ, персиваторов, которые не «вычисляют» в привычном смысле, а воспринимают и преобразуют реальность иначе (не как компьютеры). Тогда вопрос будет уже не в том, «как ещё ускорить старый двигатель», а в том, кто первым построит этот новый класс машин.
Короче говоря, мы считаем, что именно TAPe может стать тем, что освободит современный мир от гнета нулей и единиц. Ну или хотя бы позволит создать принципиально другое устройство, персиватор/персивер, который станет основой дивного нового мира.
Аминь.