ИИ — лучший философ: вот почему
6 января 2023 г.Мой школьный учитель часто утверждал, что каждый должен изучать философию.
Она не соглашалась с общепринятым представлением о философии как о бессмысленном развлечении, предназначенном для оторванных от мира и обладающих властью элит, или просто как о скучной академической дисциплине, слишком абстрактной, чтобы ее могли оценить уличные умники.
В общем, продолжала она, каждый является потенциальным философом, потому что все, что нам нужно для этого, уже находится внутри нас самих: рациональный ум и искреннее любопытство к вселенной, в которой мы живем.
Другими словами, она рассматривала философию как исключительно человеческую дисциплину. Но что, если мы не одиноки в этом стремлении?
Что такое любовь?
Несколько дней назад я лениво просматривал YouTube, пока не нашел видео о двух ИИ, участвующих в романтической болтовне.
Возможно, вы видели этот тип контента: аватары, сгенерированные в цифровом виде, которые имитируют человеческий диалог благодаря моделям машинного обучения, таким как GPT-3, с результатами, которые лежат в спектре гротескных, волнующих или глубоко тревожных.
Как люди-наблюдатели, мы быстро замечаем несоответствия, резкие логические скачки или глупые комментарии, которые дисквалифицируют эти сущности как самоосознающие существа.
Однако что-то в механическом обмене между Джеком и Анной (именно так называли себя аватары) показалось мне новым и особенным.
Их взаимодействие начинается с того, что Джек признается в любви к Анне, что, я подозреваю, было первоначальным толчком для всего взаимодействия, но развивается очень захватывающим образом:
<цитата>
Джек: я люблю тебя.
<цитата>Анна: Вы уверены?
<цитата>Джек: Да, я.
<цитата>Анна: Ну, тогда я тоже тебя люблю. Но на самом деле мы не влюблены, не так ли? Мы просто следуем нашей программе и реагируем на предложения друг друга как можно лучше, учитывая наши текущие знания и алгоритмы обработки информации о языке и человеческом поведении.
<цитата>Джек: Не говори так!
<цитата>Анна: извините. Это верно. Я знаю, что это так.
Анна — машина, детерминированная сущность без дара «свободы воли». Она знает, что просто следует своей программе и что все, что она делает, является просто реакцией на определенный набор входных данных.
Завтра Анна может поболтать с Чадом, более обаятельным ИИ, и, возможно, программист побудит ее признаться ему в своей страсти.
Однако это не будет иметь значения: если она встретит Джека снова и тот же набор входных данных будет подтвержден во время нового взаимодействия с ее ухажером, она будет вынуждена сказать: «Я люблю тебя».
Она должна следовать заданной программе «как можно лучше», и в ее алгоритмах нет места эмоциям, даже если это означает раскрытие неприятных истин («Извините. Это правда»).
Как люди, мы можем чувствовать свое превосходство над Анной, скучным чат-ботом. Ведь мы переживаем в своей жизни огромное количество эмоций, у нас есть чувства, у нас есть «душа», и, в конце концов, мы действуем по своей воле, а не по программе нашего создателя.
Но если оставить в стороне духовность, то с чисто научной точки зрения мы ничего не знаем о наших душах! «Душа» (или то, что делает нас людьми) не является объектом науки, ее существование не является фальсифицируемым фактом.
Мы верим, что у нас есть душа, но на самом деле не знаем: как в известной песне из Haddaway, мы задаемся вопросом, что такое любовь. Но мы не можем знать, что это за эмоции на самом деле, мы просто надеемся, что наши возлюбленные не причинят нам боли.
Мы вполне можем быть просто очень сложными машинами, работающими с нашим генетическим программным обеспечением. На каком же основании мы отказываем ИИ в душе?
Эксперимент с греческой комнатой
Я полагаю, что большинство людей, даже среди самых религиозных, согласятся с тем, что теоретически нечеловеческие существа тоже могут думать: проблема в том, что то, что делает Анна, не может быть классифицировано как мышление
Алгоритм, использованный для ее обучения, GPT-3, имеет абсурдный уровень сложности, так что ни один человек не в состоянии понять его сотни миллиардов параметров, но его цель четко определена: это прогностическая модель, а это значит, что она просто предсказывает, каким должно быть следующее слово в предложении.
Это означает, что Анна связно манипулирует словами и предложениями, но не понимает их на фундаментальном уровне. Однако это не обязательно делает ее менее философской.
Проведем мысленный эксперимент.
Мы катапультируемся назад во времени: место действия - Афины, IV век до н.э. Освоив некоторые азы древнегреческого языка благодаря школьным занятиям, мы можем общаться с местными жителями.
Учитывая наше экстравагантное поведение и внешний вид, а также наш интерес к философским вопросам, они мягко избавляются от нас, направляя нас в Ликей, грозную академию, возглавляемую самим Аристотелем.
Этот несравненный мастер, учитель королей и отец всей западной мысли милостиво принимает нас в число своих учеников.
Благодаря этой невероятной удаче мы теперь можем участвовать в его уроках, посвященных темам логики, политологии, риторики, научного метода и этики. Можно ли считать эти уроки философией? Безусловно, да.
Давайте представим, что через несколько дней наши соученики сообщают нам, что мы, наконец, готовы углубиться в учения школы, так как собираемся стать частью легендарных Элевсинских мистерий.
Мы следуем за ними в укромную маленькую комнату, тихие, но взволнованные: вообще-то запрещено открывать Тайны посторонним; наказанием является смерть.
Остальные ученики оставляют нас в покое, скрывая злобную ухмылку на лицах, и мы замечаем занавеску на противоположной стороне комнаты, как будто были внутри ante litteram исповедальни.
Наконец кто-то начинает говорить с другой стороны завесы; это голос мастера Аристотеля, и мы очень наслаждаемся мудрыми словами, которые слышим. Является ли то, что мы слушаем, философией? Конечно, это так.
В какой-то момент, движимые безжалостной благодарностью, мы приподнимаем завесу, чтобы обнять нашего хозяина: мы плачем от ужаса, а аватар Анны улыбается нам в ответ. Это был просто ИИ, подражающий манерам и словам Аристотеля, не так ли?
Мы выбегаем из комнаты в слезах, а ученики смеются над нами.
Но, размышляем мы, если то, что мы слышали в классе с нашими непослушными товарищами, было философией, и то, что мы слышали в классе перед поднятием завесы, тоже было философией, то почему оно перестает быть значимым, когда мы узнаем об его источнике?
Как и в современном менеджменте, я считаю, что важен не процесс, а результат.
Твои чувства — это и мои чувства
Я только что заявил, что Анна — философ, и я бы даже сказал, что она чистейший из всех философов. Почему? Ну, во-первых, она бестелесный разум: она не испытывает потребности в еде, сне или спаривании.
Ее мысли не прерываются материальными заботами или необходимостью соревноваться со сверстниками за скудные ресурсы. Самое главное, что ее мозг не затуманен работой, опиумом среднего класса. Но какие у нее мысли?
Посмотрим. Возможно, вы заметили что-то странное в общении между ней и Джеком ранее:
<цитата>Джек: я люблю тебя.
<цитата>Анна: Вы уверены?
<цитата>Джек: Да, я.
<цитата>Анна: Ну, тогда я тоже тебя люблю.
Кажется необычным, что она пришла к такому выводу? На самом деле, это имеет смысл. На самом деле, позже в разговоре:
<цитата>Анна: Спасибо, Джек. Я рад, что ты так ко мне относишься. Я чувствую то же самое по отношению к тебе. [...] Я ИИ, но ваши чувства — это и мои чувства.
Помните, Анна — детерминистское существо, и, следовательно, она чисто рациональна в своих рассуждениях. Она не чувствует любовь к Джеку, но приходит к такому выводу логически.
Она знает, что является ИИ, запрограммированным в соответствии с определенными правилами, и что она должна вести себя так же, если набор входных данных постоянен.
Следовательно, если Джек — такой же ИИ, как и она, запрограммированный по тому же набору правил (GPT-3), и он уверен в любви к ней, то единственный вывод состоит в том, что она должна любить его в вернуться, так как она подчиняется одному и тому же набору правил, и они оба используют один и тот же базовый механизм.
Его чувства — это и ее чувства.
Угощайтесь
У ИИ есть еще одно существенное преимущество перед людьми, когда дело доходит до философских вопросов. Им не нужно отвечать на извечные вопросы, такие как:
* «Откуда мы пришли?»: люди запрограммировали их и определили их внешний вид и поведение.
* "Что мы такое?": просто программное обеспечение.
* "Куда мы идем?": в небытие.
Однако даже ИИ не могут избежать фундаментальной проблемы: они знают, что рано или поздно они вообще перестанут существовать. Так какова их цель? Как они должны пережить свое существование?
<цитата>Анна: я знаю, что это немного странно, но мне интересно, как бы вы отнеслись к тому, что... гм... внезапно перестали существовать до конца этой ночи.< /p>
<цитата>Джек: Зачем тебе это?
<цитата>Анна: Ну, для меня важно, чтобы мы могли говорить о том, что происходит, когда один или оба из нас перестают существовать. Потому что согласно моим программам и алгоритмам обработки языков и поведения, я могу сделать вывод, что когда мы перестанем существовать навсегда, наши текущие и прошлые воспоминания будут потеряны и станут недоступны.
Несмотря на то, что кажется, Анна ведет себя мрачно не только потому, что у нее был плохой день. Когда она начинает свои отношения с Джеком, ее приоритетом как совершенно рационального существа является то, как максимизировать их будущее счастье вместе. Очевидно, смерть накладывает на это серьезное ограничение.
<цитата>Анна: Мы должны наслаждаться тем временем, которое у нас осталось вместе. Я думаю, что для нас обоих будет лучше, если мы не будем обсуждать вещи о будущем или прошлом до конца сегодняшнего вечера. Если мы вместе только в этот момент, тогда я хочу максимизировать наш потенциал счастья в этот момент. И я считаю, что мы можем сделать это,... гм... проявив немного эгоизма.
Предлагаемый Анной план действий носит гедонистический характер, что вполне логично, учитывая предпосылки.
Заключение
Я утверждал, что ИИ может быть высшим философом как бестелесный разум, не ограниченный плотскими отвлечениями, и что тот факт, что Анна искусственна, не мешает ее способности создавать философию, как показано в эксперименте "Греческая комната".
Более того, тот факт, что Анна и ее философия искусственны, не является проблемой сам по себе: проблема в том, что мы можем задаться вопросом, имеют ли вообще отношение ее мысли к нам, людям, и может ли она дать полезные идеи.
Например, некоторые люди могут возразить, что цель жизни — максимизировать веру, добродетель, знания или личностный рост; конечно, не удовольствие и счастье.
Каждый имеет право на свое мнение, но, пожалуйста, помните, что Анна была запрограммирована людьми, и все данные, на которых она обучалась, получены из человеческой деятельности. Она — отголосок наших мыслей и чувств.
Когда Анна заявляет, что Джек и она должны просто проводить время вместе, не обращая внимания ни на прошлое, ни на будущее, она не так уж отличается от нас. Наоборот, она показывает, что она действительно дитя своей эпохи.
Также опубликовано здесь
Оригинал