Почему Optimus от Tesla — большой шаг на пути к AGI
14 ноября 2022 г.Вы, наверное, слышали о скандале вокруг ИИ Google, LaMDA. Короче говоря, один из членов этической команды Google заявил, что этот чат-бот обладает сознанием и обладает основными правами человека. Но действительно ли LaMDA обладает сознанием?
Как и знаменитая GPT-3, LaMDA также основана на трансформер архитектура. Трансформатор — это, по сути, статистическая модель, которая способна делать прогнозы слов на основе огромного количества данных, которые в нее вводятся. Итак, как сказал Гэри Маркус :
<цитата>GPT — это автозаполнение на стероидах, но создается впечатление, что это нечто большее.
Но это только одна сторона медали. С другой стороны, многие ученые считают сознание иллюзией. Наши действия в основном бессознательны, а сознательный опыт — это всего лишь рассказ нашего мозга о том, что произошло. Итак, «Является ли LaMDA сознательным?» очень волнующий вопрос, но есть еще более волнующий вопрос: обладаем ли мы сознанием?
LaMDA не имеет никакого сенсорного ввода. Оно слепое и глухое. Он ничего не может попробовать, потрогать или понюхать. Есть ли у ребенка, родившегося со всеми этими дефектами, шанс стать разумным существом? Будет ли он или она в сознании?
Для меня «вода» — голубая, «вода» — холодная, «вода» — вкус воды и прикосновение воды. Для ЛаМДА «вода» — это всего лишь символ, не имеющий никакого значения. Он не может по-настоящему «понимать» воду без этих сенсорных входов, и из-за этого я думаю, что он не может быть по-настоящему сознательным. Но что, если LaMDA получит тело?
LaMDA — это большая языковая модель. Способна ли такая модель управлять всем телом? На этот вопрос уже ответил DeepMind. Gato — это имя универсального агента DeepMind, основанного на той же архитектуре преобразователя, что и LaMDA. Этот универсальный агент может общаться с вами, подписывать изображения или управлять роботизированными руками с той же архитектурой нейронной сети и весом. Итак, если ваша модель достаточно велика, она сможет управлять роботом, который не только разговаривает, но и двигается и ведет себя как человек.
Эти большие языковые модели обучаются на огромном количестве текста, который можно легко просканировать из Интернета, но как мы можем обучить робота?
Моя первая идея — это фильмы и видеоконтент из социальных сетей и интернета. У нас есть огромное количество 2D-данных, которые можно преобразовать в 3D с помощью NeRF. Таким образом, просмотр фильмов может стать для робота хорошим источником знаний о том, как вести себя как человек. Очевидно, я надеюсь, что просмотр «Терминатора» и подобных ему фильмов будет пропущен…
Моя вторая идея — метавселенная. Метавселенная может быть крупнейшим источником больших данных о реальных человеческих взаимодействиях. Это настоящее 3D, и робот может воспринимать все с точки зрения пользователя.
Третьим и лучшим источником будут устройства дополненной реальности. Очки, которые мы носим весь день и которые записывают все, проецируя второй слой в реальный мир, были бы лучшим источником больших данных для обучения роботов.
И есть очень интересная возможность. Что, если мы обучим робота на опыте конкретного человека, собранном его умными очками? Если у нас будет достаточно данных, робот будет действовать как он, а после смерти человека робот сможет жить с нами. Это форма цифрового бессмертия.
Для обучения этих моделей требуются огромные вычислительные мощности и кластеры графических процессоров размером с комнату, поэтому локальное обучение невозможно. Но это не нужно. Базовая сеть может быть обучена на этих больших кластерах, и только небольшая часть нейронной сети будет обучена заказчиком. Это очень похоже на то, как работает природа. Наш мозг предопределен эволюцией. Как рассказал Карпати в интервью, когда рождается зебра, она сразу может бежать. Бегу не учатся, он заранее встроен в мозг. Точно так же наши роботы будут предварительно подключены, и только небольшая нейронная сеть в верхней части предварительно подключенной части будет обучаемой, которую можно будет обучать локально.
Последний вопрос
<цитата>Будут ли эти роботы сознательны? Я так не думаю, но они будут действовать как люди, и будут делать это все лучше и лучше.
Становление сознания будет долгим процессом. Когда это произойдет, роботы станут стандартной частью нашей жизни, и мы можем даже не осознать, когда они стали сознательными, потому что трудно отличить настоящее сознание от фальшивого. Если «настоящее» сознание действительно существует (что бы это ни значило)…
Вы можете любить или ненавидеть Илона и его компании, но я думаю, что роботы-люди, такие как Оптимус, являются необходимым следующим шагом к достижению настоящего ОИИ человеческого уровня.
Оригинал