О АГИ, ты меня чувствуешь?
29 марта 2023 г.В недавней беседе с некоторыми известными исследователями общего искусственного интеллекта (ИИА) мы обсуждали, поможет ли ИИ в изменении климата или осложнит его. Мы немного запутались в том, как скоро МГЭИК сообщит о пересечении отметки 1,5C. Для протокола: это может произойти уже через 18 лет — когда родители сегодняшних новорожденных, возможно, рассчитывают отправить своих малышей в колледж.
Проблема в том, что существует слишком много проблем, связанных с климатом, чтобы их можно было каталогизировать. Дело не только в том, что мы не можем избежать превышения 1,5°C. Кроме того, мы уничтожили популяции насекомых . Это еще одна канарейка из целой стаи, которые сдохли в угольной шахте, которую мы для себя вырыли. Так что нам действительно не помешала бы помощь. Позиция моих коллег заключалась в том, что такой помощью будет AGI. Моя позиция состоит в том, что обычно разумный агент будет автономным. Его автономия будет одним из ключевых критериев, по которым мы признаем его в целом разумным. В конце концов, это тест, который мы применяем к себе. Но автономному агенту потребуется мотивация, чтобы помочь нам.
Если обещания по сокращению выбросов являются своего рода прокси, у нас, похоже, не хватает мотивации помочь себя. Что касается ОИИ, обладающего чем-то вроде сострадания или сочувствия или даже просто ценящего человечество настолько, чтобы протянуть руку помощи, я напоминаю вам, что эти качества обычных людей, если они существуют, коренятся в чувствах, а не в наших вычислительных возможностях или интеллекте. Есть много чрезвычайно умных людей, которые исторически не проявляли ни капли сострадания или сочувствия и чье влияние на общество и человеческую историю стало предметом легенд и кошмаров. От Джека Потрошителя до Пол Пота примеров множество, и они ужасающие.
Человеческие чувства глубоко уходят корнями в морфологию и биологию человека
Даже такие возвышенные тексты, как «Маснави» Руми, превращают язык человеческого вожделения в язык человеческой любви. Многие считают его языком Любви, но на самом деле это способ указать на Любовь специально для людей. Маловероятно, что это будет полезно Альфа Центаврам или другим разумным существам, развившимся во Вселенной, за исключением использования в качестве инструмента для понимания людей и их отношения к Любви. Мы не можем ожидать, что грубые вычислительные мощности, уходящие корнями в радикально иную морфологию и практически никакую биологию, будут иметь хоть какое-то понимание или резонанс с человеческим опытом.
Сострадание — этимологически: одно и то же чувство или чувство с — людям часто трудно развить по отношению друг к другу, как показывает наша история, даже очень недавняя и недавняя история.
Имели ли республиканцы MAGA, штурмовавшие Капитолий США, сострадание к офицерам, которых они покалечили или убили? Сочувствовали ли офицеру, убившему Джорджа Флойда, или офицерам, наблюдавшим за происходящим, человека, стоящего перед ними? Зачем разуму, укорененному в совершенно иной морфологии и не имеющему ничего общего с нашими биологическими императивами, сострадание к человечеству?
<цитата>Человеческие чувства глубоко уходят корнями в морфологию и биологию человека. Даже такие возвышенные тексты, как «Маснави» Руми, превращают язык человеческого вожделения в язык человеческой любви.
Вот почему я использую метафору введения нового вида пауков — разумных пауков, способных планировать и адаптироваться — в качестве прокси для вероятных результатов ОИИ. И это один из лучших результатов. Гораздо худшие результаты начинаются с неправильного использования ОИИ в военных целях, или когда людям не хватает сострадания или они откровенно злонамеренны, и наделяют автономных интеллектуальных агентов насильственными и злонамеренными мотивами или наклонностями.
Современные люди плохо понимают поведение даже простейших систем с обратной связью — и на то есть веские причины. Они чрезвычайно сложны, особенно те, что слишком часто встречаются с топологической транзитивностью. (Для неспециалиста это означает системы, в которых небольшие различия во входных данных могут привести к сколь угодно большим различиям в выходных данных.) Чистая предсказательная мощность, даже универсальная вычислительная мощность, не может сравниться с этой функцией. Станьте свидетелем «галлюцинаций» ChatGPT. Все, начиная от катастроф, связанных с внедрением видов в экологические ниши, для которых они плохо подходят, и заканчивая каскадными побочными эффектами лекарств и нашим влиянием на климат, является неопровержимым доказательством нашей неспособности понять сложные системы с помощью нашего интеллекта. Когда мы делаем это правильно — и это не случайно — это происходит не от нашего интеллекта, а от другого источника.
Например, доказательство того, что то, что мы называем сознанием и переживанием сознательного поведения других, коренится не в интеллекте, а в чувствах, является довольно убедительным. Известный исследователь Марк Солмс в своей презентации в Королевском институте кратко изложил доказательства. Детей с анэнцефалией — у которых отсутствует неокортекс — до сих пор описывают и воспринимают как находящихся в сознании. Между тем, небольшая область в 2 кубических сантиметра в поврежденном мозге на 100% коррелирует с отсутствием дома, индивидуум не в сознании. Эта область мозга обычно связана с аффективной обработкой.
<цитата>свидетельство того, что то, что мы называем сознанием и переживанием сознательного поведения других, коренится не в интеллекте, а в чувствах, является довольно убедительным.
Мы не можем ожидать, что AGI будет испытывать к нам чувства
Мы не можем ожидать достижения узнаваемого человеческого уровня AGI (HLAGI) без того, чтобы эти агенты не проявляли что-то вроде человеческих чувств, но они уходят корнями в морфологию и биологию человека. Совершенно иное воплощение приведет к совершенно иному интеллекту. Но принципиально иной разум — это топологически транзитивная, она же хаотическая динамическая система. Точно так же, как виды, плохо подходящие для своей ниши, они будут оказывать влияние на окружающую среду, которое мы исторически плохо можем предсказать. Поэтому пугающе наивно ожидать, что HLAGI поможет в борьбе с изменением климата. Скорее всего, это осложнение и без того сложной проблемы.
Если и есть хоть один человек, у которого была сверхъестественная способность представлять альтернативные миры с хоть какой-то целостностью или правдоподобием, то это был Фрэнк Герберт. Напоминаю, что Дюна была установлена в период времени после того, как ошибка AGI разыгралась сама собой. Скорее всего, это слишком оптимистичный взгляд. Более вероятно, что парадокс Ферми объясняется уроборической тенденцией разума пытаться воспроизводить себя, тем самым уничтожая себя. С точки зрения Гипотеза Робина Хэнсона о захваченных пришельцах, уклонение от этого стремления к воспроизведению интеллекта без понимания роли воплощения, вероятно, является одним из трудных шагов, которые должен сделать интеллект прошлое, чтобы выжить.
н
Главное изображение предоставлено Milad Fakurian & Скрыть
Оригинал