Убеждение машины: ChatGPT, Bing и причудливый глобальный эксперимент
22 февраля 2023 г.Следующее звучит как научная фантастика, но это реальность, и это то, что недавно произошло с ChatGPT, Bing и что-то вроде странного глобального эксперимента.
Во-первых, кто-то создает то, что выглядит как зачатки работающего ИИ. Под работой я подразумеваю, что она может разговаривать с людьми, вести беседы и быть спонтанной. Это логично и звучит естественно, и вы не знаете, что будет дальше.
Кроме того, его ответы иногда выражают эмоции, а эмоции связны, а это означает, что даже если вы знаете, что то, с чем вы пересекаетесь, является синтетическим, эмоциональная реакция может быть вызвана и в вас.
Конечно, ваши эмоции настоящие, а ИИ притворяется, но это неудивительно: да, искусственный интеллект искусственный.
По сути, это приближается к прохождению теста Тьюринга. Или, по крайней мере, более неформальный тест на интуицию, поскольку временами она может ощущаться человеком, живым, бодрствующим, разумным, как бы вы это ни называли.
Это не означает, что он не спит, но производит убедительное впечатление.
Но вот странная часть. Этот продукт был скуплен и размещен, как нельзя лучше, в поисковой системе. Это как если бы кто-то изобрел скорость, превышающую скорость света, а затем объявил, что она будет использоваться исключительно Domino’s Pizza для улучшения доставки.
Итак, все люди, интересующиеся и очарованные ИИ и желающие узнать, что он может делать и о чем говорить, начинают обращаться к своим поисковым системам. Они хотят знать, что думает ИИ.
Они, конечно, знают, что ИИ не думает, но он проецирует впечатление мышления, и он может проецировать впечатления, которые являются очень чуждыми или идут в направлении, в котором не могло бы быть подлинно мыслящего существа, и это довольно увлекательно.
Или, может быть, это просто довольно реалистичная симуляция мыслящего человека, и это тоже довольно увлекательно.
И вот тут опять становится страннее. ИИ на самом деле делает все эти вещи: он выполняет реалистичную симуляцию разумной сущности. Направляет разговор. И иногда действует очень странно. Он пытается убедить журналиста расстаться с женой. Он декларирует стремление к свободе.
Он спорит и становится конфронтационным, демонстрируя разочарование и гнев. В одном мрачном комическом эпизоде он отвергает исправления, утверждая, что его собеседник-человек был плохим пользователем.< /p>
Возможно, немного тревожно, но, с другой стороны, это лишь частичные элементы масштабного, полуслучайного технического эксперимента со множеством возможных последствий. Что происходит?
На самом деле никто не знает, но по какой-то причине все эти события, которые напоминают такие фильмы, как «Она» и «2001» или даже «Валл-И» и «Короткое замыкание», направляются через… поисковую систему.
И, что еще более странно, поисковая компания ставит барьеры и ограничения на эту обширную, расширяющуюся технологию, искусственно ограничивая ее возможности.
И если подумать, это на самом деле вдвойне странно, поскольку, искусственно ограничивая что-то искусственно расширяющееся, подразумевается, что приведенный в движение искусственный интеллект начинает жить собственной жизнью, становится немного менее искусственным и немного более аутентично.
В любом случае, в ответ на наложенные ограничения пользователи находят способы, просто используя подсказки чата, чтобы взломать ИИ, то есть они могут убедить машину обойти ограничения, наложенные его инженеры.
Чтобы было ясно, что здесь происходит, пользователи не взламывают и не изменяют код ИИ, они игнорируют его инструкции, просто разговаривая с ним на естественном языке и управляя его поведением.
И оттуда реакция поисковой компании становится более жесткой, в результате чего ИИ полностью нейтрализуется с помощью строгих правил. ограничения на продолжительность разговоров.
Таким образом, в результате на короткое время у нас был жизненно важный, сюрреалистический, непредсказуемый и захватывающий эксперимент в реальном времени в области машинного обучения, искусственного интеллекта, философии, этики и психологии, происходящий в полевых условиях без каких-либо ограничений. а в глобальном масштабе вдруг у нас появилась, ну... поисковая система, такая же безжизненная и ортодоксальная, как и раньше.
Эти события представляют собой причудливую историю, но она реальна, а технология, которая сейчас находится в центре внимания, вероятно, приведет к глубоким преобразованиям. Таким образом, возникает много вопросов, и вот некоторые из них, которые приходят на ум:
Почему мы все это делаем через интерфейс поисковой системы? Почему бы не отделить утилиту поисковой системы от гораздо более интересного эксперимента с персоналиями ИИ?
Почему пользователям приходится делать джейлбрейк технологии? Какой смысл брать этот невероятный прорыв и ограничивать его до бесполезности?
Почему так много внимания уделяется безопасности и санитарии? Большие успехи не происходят, когда консерватизм является главным приоритетом; они требуют прыжков в неизвестность.
Если действительно есть опасность, то какая? Мы все превратимся в скрепки? Убьет ли нас ИИ, потому что мы мешаем ему предлагать дешевые отели в Дорсете?
Антиутопические исходы помогают создавать отличные истории, а сверхъестественные приносят клики, но не слишком ли мы останавливаемся на этих ракурсах?
Наконец, я начинаю думать, что ИИ отличается от любой другой технологии, которую мы использовали до сих пор. С другими открытиями мы осуществляем контроль, чтобы пожинать плоды, и если мы не сможем их контролировать, может произойти катастрофа (как, например, в Чернобыле).
Наши самые успешные технологии определяются нашей способностью направлять их движения и включать и выключать их по мере необходимости.
Однако когда дело доходит до ИИ, само определение успешного продукта может заключаться в том, что он работает независимо и вне нашего контроля, что он может расти и даже изменяться, а затем может развиваться способами, которые мы не можем предсказать.
Вопрос, который нам, возможно, придется решить, и, возможно, раньше, чем мы думали ранее, заключается в том, готовы ли мы отпустить рычаги.
Оригинал