Здесь мы ступаем даже не на хрупкий лёд, а по пояс проваливаемся в туман над болотом. У нас нет единого определения интеллекта, сознания, а нейробиология как наука находится в фазе стремительного роста, что, сугубо по мне, соответствует этапу развития подростка. Но никак не зрелой личности. Поэтому, руководствуясь тем, что можем наблюдать и краеугольным: «я так чувствую», лезем в дебри методологических анализов. И щупаем наличие сознания у машины, и не только у неё.
Разделяй чувства и властвуй над сознанием
Критический методологический анализ опровергает современные исследований сознания. Исследовательская группа утверждает, что сами нейробиологические методы, даже передового края науки, принципиально не способны надежно измерять субъективный опыт. И это логично, так как в той же психиатрии диагностика депрессии или шизофрении, как и генерализованного тревожного расстройства проводится по первичному принципу: «я так чувствую».
В статье показано, что популярные экспериментальные модели непреднамеренно смешивают «подлинное сознательное восприятие» с общей, неосознанной «обработкой информации». Это позволяет предположить, что растущие научные утверждения о наличии сознания в системах искусственного интеллекта, сознания у животных, сознания внутри групп растений и выращенных в лаборатории органоидов – основаны на неоднозначных критериях.
Ключевые факты
Традиционный раздел, в котором разбираю основные постулаты исследования. Для каждого, кто хочет ознакомиться в целом. А в статье, речь пойдет про все то же самое, но с более подробными объяснениями.
Кризис метрик. Вместо того чтобы пытаться определить, обладает ли что-либо нечеловеческое субъективными переживаниями, это исследование направлено на более фундаментальный вопрос: действительно ли современные методы нейробиологии измеряют само сознание, или же они просто отслеживают когнитивные вычисления?
Методологическая петля. Популярные экспериментальные парадигмы, такие как зрительная маскировка, бинокулярное соперничество и определение порога восприятия, изменяют не сознательный опыт испытуемого. Они вмешиваются в базовую способность мозга обрабатывать информацию. Тем самым провоцируя исследователей смешивать сознание с более широкими когнитивными и перцептивными способностями.
Бум нечеловеческих сущностей. Эта методологическая неопределенность напрямую подпитывает все более смелые, недоказанные утверждения относительно сознания у животных, сознательного ИИ и внутренней жизни внутри выращенных в лаборатории органоидов мозга.
Негативная реакция со стороны бихевиористов. Исследовательская группа предупреждает, что отсутствие научной строгости отражает опасную историческую тенденцию. В конце XIX и начале XX веков необоснованные утверждения о сознании породили чистый бихевиоризм, заморозив и отсрочив более объективные исследования сознания на десятилетия.
Дорожная карта диссоциации. Чтобы спасти эту область от псевдонаучных утверждений, в статье указываются уникальные нейропсихологические состояния, такие как ложная слепота и гемифациальная небрежность. При этих редких и болезненных состояниях сознательное восприятие полностью отделяется от непосредственного восприятия и поведения. Это доказывает, что субъективный опыт и обработка информации можно рассматривать как полностью раздельные биологические механизмы.
Этическое обоснование. Ведущий автор исследования, директор Хакван Лау, подчеркивает, что по мере того, как определяется глобальная политика в области защиты животных, этических рамок искусственного интеллекта и биомедицинских норм, сообщество должно руководствоваться не домыслами «я так чувствую», а безупречной концептуальной ясностью и строгими методологическими стандартами.
Источник: The ethical impasse of current consciousness science
Это еще не технологическая сингулярность, но её отсюда видно
Момент, в котором технология и биология сливаются воедино. То, что еще недавно было кинематографическим вымыслом, и выражалось через «Призрака в Доспехах» или «Трилогию Матрицы», становится реальностью.
[Да, для меня Матрица существует в формате трилогии].
По мере того как системы искусственного интеллекта становятся более сложными, вопросы, ранее ограничивавшиеся философией, быстро входят в основное русло научных и общественных дискуссий. Один из таких дискурсов: может ли ИИ обладать сознанием?
А уже допом: могут ли животные, органоиды или даже растения обладать субъективными переживаниями?
Сознание и как его понимать
Исследовательская группа под руководством директора Центра нейровизуализационных исследований Института фундаментальных наук (IBS) Хаквана ЛАУ, совместно с коллегами из Монреальского университета и Нью-Йоркского университета, опубликовала новый анализ. В нем речь идет о том, что научные методы пока что не способны дать однозначный ответ на подобные вопросы.
В статье критически рассматривается современное изучение сознания в нейробиологии и утверждается, что многие широко используемые экспериментальные подходы не позволяют четко разграничить субъективный опыт и общую обработку информации.
Исследователи подчеркивают, что данное исследование не ставит целью определить, обладают ли сознанием животные, системы искусственного интеллекта, коллективные колонии, эмбрионы или органоиды. Вместо этого исследование формирует более фундаментальный вопрос: действительно ли современные научные методы измеряют самосознание?
Многие современные теории сознания, по-видимому, подтверждаются рядом экспериментальных данных. Но эти данные на самом деле могут отражать способность к общей обработке информации, а не само сознание, поэтому трудно сделать вывод о том, что эти теории действительно объясняют сознание.
Ведущий автор исследования, директор Хакван Лау.
Почему мы не можем нащупать сознание?
В статье утверждается, что популярные экспериментальные подходы, включая эксперименты с избирательной слепотой, бинокулярным соперничеством и порогом восприятия, часто указывают именно на общую способность мозга обрабатывать информацию, но никак не на акт сознания. В результате исследователи могут непреднамеренно смешивать сознание, путая его с более широкими перцептивными и когнитивными способностями.
Авторы также предупреждают, что эта методологическая неопределенность способствует появлению более категоричных утверждений о сознании у нечеловеческих существ. В последние годы наблюдается рост научных и общественных дискуссий вокруг сознания животных, самоосознанного или сверхразумного ИИ, внутриутробного сознания и выращенных в лаборатории органоидов мозга. При этом некоторые исследователи предполагают, что эти существа могут обладать формами субъективного опыта или чувственностью.
Хотя, вполне может быть, что это не ИИ становится разумнее, а мы лучше понимаем свою глупость.
И вот, по мнению исследовательской группы, многие из экспериментальных «маркеров» этих исследований скорее отслеживают ту самую обработку информации, подменяя ею сознательный опыт.
Мы хотим видеть сознание там, где его нет
Исследователи отмечают, что подобные проблемы возникали и раньше в истории психологии. В конце XIX и начале XX веков сильные, но плохо обоснованные утверждения о сознании способствовали серьезному научному противодействию, в конечном итоге приведя к развитию бихевиоризма и многолетнему скептицизму в отношении исследований сознания.
Для дальнейшего развития этой области в статье рассматриваются нейропсихологические состояния, такие как зрительная маскировка и бинокулярное соперничество, при которых сознательное восприятие отделено от восприятия и поведения. Эти случаи предполагают, что субъективный опыт и обработка информации могут быть разделимыми процессами. А это потенциально открывает более строгие способы научного исследования сознания.
Исследователи утверждают, что разработка методов, способных точно изолировать субъективный опыт, критически важна для оценки будущих утверждений о существовании сознания у животных, систем искусственного интеллекта, органоидов и других нечеловеческих существ.
Альтернативная теория природы сознания разобрана в этом огромном переводе.
Ответы на ключевые вопросы
В: Почему с помощью сканирования мозга так сложно доказать, обладает ли искусственный интеллект или животное подлинным сознанием?
О: Причина в том, что наши современные научные инструменты не могут обнаружить разницу между сознательным актом и поведенческой обработкой сигналов. Без разницы, обрабатываются ли сигналы в самом мозге или на кремниевом чипе. Когда исследователи используют распространенные визуальные приемы для изучения осознания, они одновременно с этим влияют на состояние сознания субъекта. Они буквально меняют объем данных, которые мозг может обрабатывать одновременно. А это создает огромную слепую зону, в которой ученые принимают стандартные когнитивные вычисления за истинное субъективное осознание.
В: Как изучение редких клинических состояний, таких как «избирательная слепота», может изменить наше представление об искусственном интеллекте?
О: Избирательная слепота – это удивительное состояние, при котором человек буквально слеп, но тело всё ещё может бессознательно уворачиваться от объектов на своём пути, потому что мозг обрабатывает визуальные данные без участия сознания. Это и доказывает, что обработка исходной информации и истинное осознание – два совершенно разных канала. Изучая, где эти две системы расходятся, учёные могут создавать более точные эксперименты, чтобы проверить, действительно ли продвинутый ИИ что-то чувствует или это просто очень сложный, но всё еще лишь оператор данных.
В: В чём заключается опасный исторический риск преждевременных научных заявлений о наличии сознания у животных или машин?
О: Если научное сообщество продолжит публиковать небрежные, плохо обоснованные утверждения о сознании в не человеческих объектах, это рискует спровоцировать массовую, оборонительную академическую реакцию. Точно такой же кризис произошел столетие назад, заставив психологов полностью отказаться от исследований сознания и перейти к строгому бихевиоризму. А это на десятилетия затормозило развитие науки о разуме. Сегодня, когда на кону стоят масштабные этические и правовые вопросы, наши научные методы должны быть более совершенными.
Свои вопросы вы можете смело оставить в комментариях к статье, и я на них отвечу. Больше переводов новостей – вы найдете в профиле на этом ресурсе.
Связаться напрямую можно или по почте: filipp.donchev@gmail.com
Или в Телеграме
Понимать сильные стороны своих недостатков, улучшать адаптивность и применять знания о мозге на практике – обо всем этом читайте на сайте Neural Hack или в одноименном канале.