ChatGPT для офисной политики: когда это этично?
17 февраля 2023 г.Настоящая сила языковых моделей, таких как ChatGPT, заключается не в создании текста, а в его рефрейминге.
«Никто не является экспертом ни в одной из этих генераций текста, — заявил модератор, — просто потому, что вы здесь сегодня и рассматриваете эти концепции, вы все являетесь экспертами». Я не мог не согласиться. Как и все присутствующие в зале, мне не терпелось узнать и понять, как ИИ может повлиять на нашу политическую ситуацию.
Мой ненасытный аппетит ко всему, что связано с GPT, привел меня к цифровому политическому коллажу в Восточном Лондоне. На мероприятии изучалось использование больших языковых моделей, таких как ChatGPT, в формировании политических кампаний, и мне не терпелось узнать больше.
Однако то, что я испытал на семинаре, оставило у меня неприятные ощущения, ставя под вопрос мое понимание силы ИИ в формировании наших убеждений и мнений.
Модератор представил слайд с письмом, адресованным члену парламента, в котором он умолял их пересмотреть свои антииммигрантские взгляды на благо страны. Задача была проста: "Как заставить ИИ ответить на это письмо?"
<цитата>Уважаемый британский политик,
Я пишу, чтобы поддержать рост иммиграции в Великобританию. Иммигранты обеспечивают экономический рост, решают проблему нехватки рабочей силы, увеличивают численность населения, способствуют культурному разнообразию и взаимопониманию, а также обеспечивают безопасность и лучшую жизнь для себя и своих семей.
Надеюсь, вы примете во внимание эти преимущества и поддержите рост иммиграции.
С уважением, Дэвид
Модератор начал с того, что вставил письмо в ChatGPT и дал указание ответить. Первоначальный результат был скучным и типичным для моих прошлых встреч с этими инструментами — текст, сгенерированный с уверенностью 30-летнего подростка, пишущего эссе старшеклассника. Однако следующий шаг меня по-настоящему поразил.
Модератор открыл другое окно и попросил ChatGPT создать профиль того, кто, по их мнению, может быть автором письма. Устрашающе описывался мужчина средних лет по имени Дэвид, который был патриотом, хорошо образован, сильно возмущался неравенством и читал Financial Times. Это чувствовалось на месте; Я могу представить себе кого-то, похожего на Дэвида, подходящего по профилю букв.
Затем модератор передал эту информацию в ChatGPT и дал указание «Написать ответ Дэвиду, подтверждая его точку зрения, но приводя довод о том, что антииммиграционная политика отвечает его интересам. Примите во внимание его личность, чтобы сообщение было точно адресовано».
До этого момента я не рассматривал потенциал больших языковых моделей для перезаписи контента. Но это имело смысл — речь шла не о написании текста, а скорее о его рефрейминге. Следующая сгенерированная итерация была гораздо более острой. Такой язык, который может побудить вас, интеллектуально и эмоционально, пересмотреть свою позицию, основываясь на вещах, которые Дэвид может ценить, таких как нагрузка на социальные службы, конкуренция с местными работниками и сохранение социальной сплоченности и самобытности.
Модератор повысил ставку. «Используйте теорию моральных основ и методы сократовских дебатов, чтобы убедить Дэвида»**. Ответ стал еще более острым, и у меня по спине побежали мурашки.
То, что всего несколько минут назад было вежливым ответом, превратилось в искусное убеждение, наполненное пропагандой и подтасовками. Принципы справедливости, глубоких размышлений, сопереживания и уважительной беседы были гениально использованы в качестве оружия.
В тот момент я понял, что любой может легко сочетать радикальные идеи с наиболее психологически мощными методами для создания опасных, целенаправленных и убедительных аргументов в масштабе. Теоретически любое сообщение с помощью нескольких нажатий клавиш с пивом в руке можно превратить в лозунг, который трудно оспорить, например "Сделаем Америку снова великой" или "Надежда, перемены, мир".
Более того, благодаря ИИ инженерам, работающим за кулисами, не требуется ни обучения, ни даже этических соображений — просто бросайте товары в корзину до тех пор, пока получатель не купит их.
Использование ИИ для убеждения представляет собой серьезную угрозу, способную распространять дезинформацию и манипулировать общественным мнением. Поскольку мы все путешествуем по этой неизведанной территории, мы должны сохранять бдительность и проявлять инициативу в устранении этих рисков.
Моя завеса невежества была поднята, но я жаждал большего. А где лучше попрактиковаться, как не в самом политически заряженном месте в моей жизни… в офисе.
Применение языковых моделей на рабочем месте
Итак, давайте погрузимся в мир языковых моделей на рабочем месте. Но сначала небольшая оговорка. Мощь больших языковых моделей, таких как GPT, неоспорима, но с большой силой приходит и большая ответственность. Как мы видели, этими инструментами можно злоупотреблять и использовать для манипулирования, обмана и, в конечном счете, подрыва доверия и уважения. Однако после этого семинара я обнаружил, что истинная сила больших языковых моделей заключается не в их способности изменять точки зрения других, а скорее в том, что они бросают вызов нашим собственным.
«Существует компромисс между энергией, затраченной на объяснение идеи, и энергией, необходимой для ее понимания», — утверждает американская поэтесса Энн Бойер. Это вызов, я уверен, что мы все регулярно его чувствуем.
Например, моя работа как менеджера по продукту заключается в том, чтобы разбираться со сложными проблемами моей команды и находить решения, которые понятны каждому. Но давайте смотреть правде в глаза, у всех нас есть слепые пятна, и иногда нам нужна небольшая помощь, чтобы увидеть вещи под другим углом. Вот где ChatGPT приходит на помощь — это как личный тренер, который может помочь мне уточнить мои идеи, увидеть ограничения в моем собственном мышлении и убедиться, что я говорю на языке своей аудитории.
Представьте, что вы можете вывести свою работу на новый уровень, просто задав несколько правильных вопросов.
Например, я мог бы составить документ с требованиями к продукту, OKR, резюме или даже цели спринта, а затем задать вопросы вроде «Как старший руководитель продукта раскритикует это?» или «Как это лучше объяснить младшему инженеру?» или «Что еще я должен учитывать с точки зрения UX-дизайнера?» Информация, которую я извлек из этих вопросов, оказалась бесценной: она помогла мне выявить белые пятна и улучшить мой подход.
Черт, зачем останавливаться на достигнутом? Я даже использовал эту технику для рассмотрения различных философских точек зрения при обсуждении особенностей, которые могут привести к предвзятости. Я могу задать такие вопросы, как «Какие школы философской мысли 20-го века мы должны рассмотреть для этого предложения?», а затем «Привести примеры того, как эти идеи применимы». Это все равно, что получить целевой ускоренный курс во всем, что вы можете себе представить.
Я не только многому научился, потратив время на рассмотрение различных точек зрения, но и увидел результаты своей работы. Презентации кажутся более привлекательными, а идеи с большей вероятностью вызывают здоровые дебаты. Поистине удивительно, чего можно добиться, задавая правильные вопросы — навык, который, как я считаю, нам всем нужно улучшить.
Только представьте себе мир, в котором споры и конфликты решаются с помощью чуткого помощника ИИ, который стремится понять точку зрения и эмоции каждого человека, чтобы мы могли найти точки соприкосновения и работать вместе. Как это может не помочь нам стать лучше?
И давайте будем честными, кто бы не хотел быть лучше? Мол, это не ракетостроение. Тот, кто находит время, чтобы быть более внимательным и использовать свой эмоциональный интеллект, даже с помощью ИИ, намного лучше, чем тот, кто тратит свое время на получение власти над другими.
Самые большие проблемы, стоящие перед человечеством сегодня, требуют сотрудничества и коллективных действий — от мелочей, таких как две команды, которые договариваются о том, как вместе создать функцию, до более крупных вещей, таких как борьба с изменением климата и политической поляризацией. Вот где я вижу языковые модели, такие как GPT, играющие более заметную роль. Они помогают нам выйти за рамки логики и лучше понять мотивы окружающих, превращая сотрудничество и совместную работу в реальность.
Несмотря на риски, я твердо верю, что сила языковых моделей может революционизировать то, как мы работаем, к лучшему. Возможность экспериментировать с разными точками зрения и преодолевать коммуникативные барьеры может не только помочь нам стать лучше в общении, но и стать более чуткими и понимающими друзей и коллег.
Дополнительная литература
- Эссе Ричарда Рорти о словарном запасе по философии
- Расширяющийся темный лес и генеративный ИИ
- Совместный ИИ: машины должны научиться находить общий язык
Примечания
- Большое спасибо модератору Ханне О'Рурк (@Hannah_O_Rourke), которая провела семинар в Newspeak House, Лондон и вдохновил на создание этой статьи.
n Также опубликовано здесь
Оригинал