Сознание ИИ неизбежно: теоретическая перспектива компьютерной науки

Таблица ссылок

Аннотация и 1 Введение

2 Краткий обзор CtmR, робота с мозгом CTM

2.1 Формальное определение CtmR

2.2 Сознательное внимание в CtmR

2.3 Осознанное осознание и чувство сознания в CtmR

2.4 CtmR как основа для общего искусственного интеллекта (AGI)

3. Соответствие CtmR другим теориям сознания

4 Ответы на вопросы Кевина Митчелла с точки зрения CtmR

5. Резюме и выводы

6 Благодарности

7 Приложение

7.1 Краткая история теоретического подхода компьютерной науки к вычислениям

7.2 Вероятностная конкуренция за сознательное внимание и влияние на него диспозиции

Ссылки

АБСТРАКТНЫЙ

Мы смотрим на сознание через призму теоретической информатики, раздела математики, который изучает вычисления в условиях ограниченных ресурсов. С этой точки зрения мы разрабатываем формальную машинную модель сознания. Модель вдохновлена ​​простой, но мощной моделью вычислений Алана Тьюринга и театральной моделью сознания Бернарда Баарса. Несмотря на чрезвычайную простоту, модель на высоком уровне согласуется со многими основными научными теориями человеческого и животного сознания, подтверждая наше утверждение о неизбежности машинного сознания.

1 Введение

Мы изучаем сознание с точки зрения теоретической информатики (ТИК) — раздела математики, занимающегося пониманием базовых принципов вычислений и сложности, включая последствия и неожиданные последствия ограниченности ресурсов.

Принимая во внимание ограничения ресурсов, перспектива TCS отличается от более ранней теории вычислений Тьюринга (TOC), где ограничения времени и пространства не фигурировали. TOC различает вычислимое и невычислимое. Она не различает вычислимое и неэффективно вычислимое. [1] Мы подчеркиваем важность этого разделения для решения проблем сознания и связанных с ним тем, таких как парадокс свободы воли.

В другом месте (Blum & Blum, 2021) мы описываем Сознательную Машину Тьюринга (CTM), простую формальную машинную модель сознания, частично вдохновленную простой формальной машинной моделью вычислений Алана Тьюринга (Turing, 1937) и театральной моделью сознания Бернарда Баарса (Baars, Bernard J., 1997). В (Blum & Blum, 2022) мы рассматриваем, как CTM может демонстрировать различные явления, связанные с сознанием (например, слепое зрение, невнимательная слепота, слепота к изменениям), и представляем объяснения CTM, которые на высоком уровне согласуются с литературой по когнитивной нейронауке.

В отличие от Тьюринга, мы учитываем ограничения ресурсов, как при проектировании модели CTM, так и при определении того, как ограничения ресурсов влияют на (и помогают объяснить) чувства сознания. Наша точка зрения отличается еще больше. То, что дает CTM чувство сознания, — это не ее карта ввода-вывода и не ее вычислительная мощность, а то, что находится под капотом.[2]

В этой главе мы кратко заглянем под капот.

Кроме того, мы показываем, как СТМ естественным образом согласуется и интегрирует черты, которые считаются ключевыми для человеческого и животного сознания многими основными научными теориями сознания.[3] Эти теории рассматривают различные аспекты сознания и часто конкурируют друг с другом (Lenharo, 2024). Тем не менее, их соответствие СТМ на высоком уровне помогает продемонстрировать их совместимость и/или взаимодополняемость.

Но, что еще более важно, их соответствие CTM, простой машинной модели, демонстрирующей явления, связанные с сознанием, поддерживаетнаше утверждение о том, что сознательный ИИ неизбежен.

Введение Дэвида Чалмерса в Трудную проблему (Chalmers, 1995) помогло классифицировать большинство понятий сознания по одному из двух типов. Первый тип, называемый по-разному сознанием доступа (Block, 1995) или функциональным (вычислительным) или когнитивным сознанием, мы называем осознанным вниманием. Второй тип (связанный с Трудной проблемой) называется субъективным или феноменологическим сознанием и обычно ассоциируется с чувствами или квалиа. Мы называем его осознанным осознанием. Трудную проблему Чалмерса можно рассматривать как вызов, чтобы показать, что субъективное сознание «функционально».

Мы утверждаем, что сознание в целом требует как сознательного внимания, так и сознательной осведомленности, каждое из которых информирует другое в разной степени. Мы утверждаем, что машина, которая взаимодействует со своими мирами (внутренним и внешним) через входные датчики и выходные приводы, которая создает модели этих миров, позволяя планировать, прогнозировать, тестировать и учиться на основе обратной связи, и которая разрабатывает богатый внутренний мультимодальный язык, может иметь оба типа сознания. В частности, мы утверждаем, что субъективное сознание является вычислительным и функциональным.

Мы подчеркиваем, что CTM — это формальная модель машины, разработанная для исследования и понимания сознания с точки зрения TCS. Она не предназначена для моделирования мозга или нейронных коррелятов сознания. Тем не менее, CTM вдохновлена ​​когнитивными и нейробиологическими теориями сознания.

В частности, как мы уже упоминали, CTM вдохновлена ​​театральной моделью сознания когнитивного нейробиолога Бернарда Баарса (Baars, Bernard J., 1997), теорией сознания глобального рабочего пространства (GW). Однако и здесь CTM не является стандартной моделью GW. CTM отличается от GW рядом важных моментов: ее конкуренция за глобальную трансляцию формально определена и полностью заменяет плохо определенный Центральный Исполнительный орган других моделей GW; ее специальные процессоры, включая особенно процессор Модели Мира, конструируют и используют модели ее (внутренних и внешних) миров; ее богатый мультимодальный внутренний язык, Brainish, для создания маркированных эскизов в ее моделях мира и для общения между процессорами; и ее предиктивная динамика (циклы прогнозирования, тестирования, обратной связи и обучения, локально и глобально).

CTM также взаимодействует с внешним миром через входные датчики и выходные приводы. Чтобы подчеркнуть воплощенный, встроенный, принятый и расширенный разум CTM, мы называем его здесь CTM Robot (CtmR).

Работая над этой главой, мы узнали о записи в блоге Кевина Митчелла в Wiring the Brain (Mitchell, 2023), в которой он высказывает точку зрения, схожую с нашей, а именно, что многие из основных теорий сознания совместимы и/или дополняют друг друга. Для аналогичного вывода см. (Storm & et.al., 2024). Более того, Митчелл представляет «неисчерпывающий список вопросов… которые теория сознания должна быть способна охватить». Он заявляет, что «даже если такая теория в настоящее время не может ответить на все эти вопросы, она должна, по крайней мере, предоставить всеобъемлющую структуру[4] (т. е. то, какой на самом деле должна быть теория), в которой их можно задавать последовательно, без того, чтобы один вопрос дестабилизировал то, что, как мы думаем, мы знаем об ответе на другой».

Вопросы Митчелла продуманны, интересны и важны. В конце этой главы мы предлагаем предварительные ответы с точки зрения Сознательного робота машины Тьюринга (CtmR). Наши ответы дополняют и освещают материал в кратком Обзоре CtmR, который мы сейчас представляем.[5]

[1] Краткую историю TOC и TCS см. в Приложении 7.1.

[2] Это важно. Мы утверждаем, что симуляции, которые изменяют ключевые внутренние структуры и процессы CTM, не обязательно испытают то, что испытывает CTM. Мы не утверждаем, что CTM — единственная возможная модель машины, способная испытывать чувства сознания.

[3] К этим теориям относятся: теория глобального рабочего пространства/глобального нейронного рабочего пространства (GW/GNW), теория схем внимания (AST), теория предиктивной обработки (PP), теория интегрированной информации (IIT), теории воплощения, внедрения, принятия и расширения (EEEE), эволюционные теории и теория расширенной ретикулоталамической активирующей системы + принципа свободной энергии (ERTAS + FEP).

[4] Курсив наш.

[5] В Обзоре мы аннотируем параграфы, которые ссылаются на запросы Кевина Митчелла. Например, если параграф имеет метку [KM1], то он ссылается на первый запрос Митчелла, KM1. И наоборот, если запрос Митчелла помечен звездочкой, например KM1*, то он ссылается на [KM1] в Обзоре.