Насколько эффективен ChatGPT в поддержке клиентов, лидогенерации и анализе данных?

16 марта 2023 г.

Модели GPT не пользовались широкой популярностью до ноября 2022 года, когда OpenAI создал преемник своих языковых моделей под названием ChatGPT. По состоянию на март 2023 года ChatGPT официально выпущен с API и SDK для интеграции модели в ваши продукты. Хотя на поверхности существует множество приложений, ChatGPT предлагает широкий спектр улучшений для различных типов технических и бизнес-процессов. Итак, мы проверим наиболее жизнеспособный вариант и посмотрим, к чему он нас приведет.

Я поделюсь с вами своим видением того, как мы можем извлечь выгоду из моделей GPT на разных уровнях автоматизации, а также дам краткий ответ на вопрос: «Что мне нужно для реализации модели GPT в моем продукте?».< /p>

Обратите внимание: все тесты проводились на этапе предварительного выпуска.

Что такое ChatGPT и что такое модели GPT в целом?

Если вы уже знаете, что такое ChatGPT и другие модели GPT, можете пропустить эту часть. Потому что здесь я дам определение ChatGPT с разных сторон, а также как использовать его возможности для поиска данных и предоставления нам необходимой информации. Самый простой способ сделать это — просто запросить модель, и вот как ChatGPT идентифицирует себя:

ChatGPT — это новейшая модель GPT, разработанная на основе GPT 3.5. Он имеет возможность взаимодействовать с пользователем в форме диалога и давать ответы практически на любой вопрос на основе событий и информации вплоть до 2021 года. Модели GPT способны решать ряд задач обработки естественного языка (NLP) с помощью возможность настройки, например:

* Извлечение ключевых слов * Текстовый перевод * Ответ на вопрос * Генерация текста * Текстовое резюме * Орфографическая коррекция * Передача стиля текста * Распознавание именованных объектов

Как использовать ChatGPT в вашем приложении или на сайте

По состоянию на март 2023 года ChatGPT доступен через API, и некоторые компании, такие как Snapchat, уже используют его. Поэтому имеет смысл обсудить, как ChatGPT может быть интегрирован в ваше приложение с технической точки зрения. Здесь есть некая вилка вариантов:

1. ЭТА ЗАДАЧА ВЫПОЛНИМАЕТСЯ С ПОМОЩЬЮ СУЩЕСТВУЮЩЕЙ МОДЕЛИ.

Здесь модель работает как смарт-каталог, помогая пользователю просматривать контент и быстрее делать выбор, используя ответ GPT. Однако настройки и персонализация недоступны.

1. ТОЧНАЯ НАСТРОЙКА МОДЕЛИ НА СОБСТВЕННЫХ ДАННЫХ.

Такие модели могут быть полезны для создания персонализированной системы рекомендаций чат-ботов на основе действий/желаний пользователей и других вариантов использования. Используя ваши собственные данные, модель GPT можно обучить для внедрения элемента персонализации. Объем данных, необходимых для точной настройки модели GPT, зависит от различных факторов, таких как размер и сложность набора данных, а также желаемая производительность модели. Как правило, для эффективной тонкой настройки модели GPT требуется не менее нескольких сотен примеров. Однако в сложных предметных областях для достижения оптимальной производительности модели могут потребоваться десятки тысяч или даже миллионы примеров.

Чтобы понять, нужна ли вам тонкая настройка модели, я бы порекомендовал вам выполнить следующие 5 шагов:

1. Бизнес-понимание, которое включает в себя изучение экономического обоснования, какие задачи делегируются модели, какие данные она должна использовать и ожидаемые функции персонализации.
2. Сбор данных. Этот шаг можно пропустить, если персонализированная информация может быть пропущена на ранних этапах. Но если вы планируете использовать модель GPT в строго определенном домене, по умолчанию модель не будет работать правильно. Значит, этот этап необходим. Например, необходимо порекомендовать пользователю одежду исходя из того, что есть в наличии в магазине. Затем необходимо собрать информацию о товарах магазина и дать базовые инструкции для рекомендаций (например, джинсы с артикулом YYYY нужно надевать поверх футболки с таким ХХХХ).
3. Аннотации данных/маркировка данных. Этот этап будет включать создание подсказки для каждого образца из этапа сбора данных. Например: шорты с артикулом YYYY нужно надевать поверх футболки с артикулом XXXX = что надеть под футболку с артикулом XXX? И ожидаемый ответ: джинсы артикула YYYY.
4. Подготовка данных. Это подразумевает преобразование данных в подходящий формат, например. «{«Подскажите»: «<какая ="" статья="" i="" должна="" футболка="" под="" носить="" с="" ххх?="">» , «завершение»: «"}".
5. Моделирование. Наконец, применение этих изменений и реализация модели в рабочей среде.

Имейте в виду, что модель GPT — это не законченный продукт, покрывающий все доменные области из коробки. Вам также понадобится приложение для него и инструменты управления на бэкэнде. Затем выходные данные модели GPT должны быть обработаны методами НЛП, чтобы извлечь значимую информацию. Модель возвращает ответ в виде текста в нескольких предложениях, например списка. Этот вывод должен быть представлен в виде одного или нескольких слов, которые будут использоваться в качестве фильтра или ключевых слов в следующих частях пайплайна. Это означает, что для работы модели GPT потребуются и другие модели.

Зная это, давайте обсудим модели GPT как дополнительный инструмент, подходящий для различных деловых и технических нужд.

Примеры использования ChatGPT для бизнеса

ChatGPT обладает гораздо большими возможностями, чем его предшественники, поскольку он был обучен с помощью метода обучения с подкреплением и обратной связью с человеком (RLHF). Это обеспечило отличительный уровень производительности по сравнению с не менее популярной моделью GPT 3. Из-за этого ChatGPT теперь используется для решения ряда деловых и технических задач с использованием его возможностей NLP. Давайте спросим, ​​что ChatGPT думает о вариантах использования в бизнесе:

Здесь мы можем видеть модель, предоставляющую ответы, перечисляющие некоторые из наиболее распространенных вариантов использования. Поскольку модель опирается на данные, ограниченные 2021 годом, это даже не полный список, и мы можем делегировать ChatGPT множество низкоуровневых задач. Мы также можем попытаться сузить область нашего внимания и извлечь некоторую ценность из одной доменной области:

Основываясь на этих примерах, мы можем сделать несколько выводов о трех наиболее перспективных вариантах использования в бизнесе:

1. ПОДДЕРЖКА КЛИЕНТОВ

ChatGPT — это многофункциональный диалоговый бот, который можно настроить с помощью ваших собственных данных. Поскольку он способен правильно понять вопрос даже с нарушенной грамматической структурой или отсутствующими синтаксическими частями, его можно считать готовым решением для систем поддержки клиентов, а именно чат-ботов.

1. СОЗДАНИЕ ЛИДОВ

В дополнение к предыдущему пункту, те же возможности можно использовать в деятельности по привлечению потенциальных клиентов, поскольку в большинстве случаев уровень речи ChatGPT не слишком отличается от того, что люди могут написать.

1. АНАЛИТИКА ДАННЫХ

В какой-то момент модели GPT могут стать альтернативой современным решениям для бизнес-аналитики и анализа данных. Поскольку они могут работать с огромными базами данных исторических данных и предоставлять людям ценную информацию.

Однако, когда дело доходит до анализа данных в реальном времени, который требует постоянного обновления и самой последней доступной информации, модели GPT кажутся неуклюжими. Процесс обучения с использованием методики RLHF сложен, кроме того, для него потребуется конвейер машинного обучения с автоматизированным переобучением и передислокацией моделей. Это своего рода ракетостроение... пока.

Таким образом, приложения, которые в значительной степени зависят от обновлений данных в реальном времени, пока не подходят для моделей GPT. Что еще мы можем с ним сделать?

1. Копирайтинг с ChatGPT

Одним из самых популярных утверждений о языковых моделях и нейронных сетях является то, что они определенно могут заменить копирайтеров или, по крайней мере, значительно повысить скорость написания. Посмотрим, так ли это на сегодняшний день. Мы будем использовать два типа запросов, чтобы проверить, как модель справится с написанием статей по теме разработки программного обеспечения. Первый тип запроса просто излагает общую идею текста, а второй указывает то, что я хочу описать в модели, и предоставляет экспертное мнение или аргументы.

Запрос: «Напишите мне статью о различных PHP-фреймворках».

Вывод ChatGPT:

Запрос: «Напишите мне статью о разнице между фреймворками Laravel и Symfony и какой фреймворк PHP мне выбрать для приложения электронной коммерции».

Вывод ChatGPT:

В обоих случаях модель довольно хорошо справляется с темой, касающейся информационной точки зрения. Грамматически и стилистически тексты также прекрасны. Однако, когда дело доходит до уровня креативности, легкости чтения, рассуждений и обоснования того или иного момента, это выглядит очень стандартно и неубедительно.

Хотя ChatGPT, безусловно, может генерировать некоторые схемы для упрощения ваших маркетинговых усилий, он создает одну проблему для корректоров-людей. Поскольку модель анализирует данные самостоятельно, сложно найти источник информации и доказать утверждения модели. Таким образом, для использования в маркетинговых целях ChatGPT требует тонкой настройки и дополнительных функций, таких как объяснимость ИИ, чтобы быть эффективным и полезным.

2. Общее программирование с помощью ChatGPT

Если модели GPT могут говорить на человеческом языке, ничто не мешает им использовать языки программирования для написания приложений. Руководитель нашей группы PHP/DevOps Антон Логвиненко проверил это, чтобы увидеть, каких результатов можно добиться, используя модель для написания кода на PHP для различных функций.

Запрос: «Напишите PHP-код на Laravel Framework, который будет отображать список пользователей».

Ответ ChatGPT:

<цитата>

В большинстве случаев этот код точно сработает. В этом конкретном случае ему не хватает структуры базы данных, а также того, какие поля есть у каждого пользователя, например, имя и фамилия. Поэтому вам следует помнить, что в настоящее время ChatGPT не предоставляет готовый код, который можно использовать в готовом виде.

Вариант использования, который я вижу для этого, состоит в том, чтобы помочь младшим разработчикам в изучении PHP или его фреймворков и немного ускорить процесс. Хотя сам код написан синтаксически правильно, есть много вещей, которые нужно улучшить.

Антон Логвиненко

Руководитель группы PHP/DevOps

Запрос: «Напишите PHP-код, который реализует REST API с конечными точками CRUD для ресурса статьи».

Ответ ChatGPT:

<цитата>

Опять же, глядя на то, что предлагают модели, код выглядит как работа с PHP для начинающих, но, скорее всего, он будет работать, если вы настроите базу данных, настроите доступ и т. д. Хотя этот код написан на уровне стажера PHP-разработчика, он не использует ни один из доступных фреймворков, он не оптимизирован, и вы не можете легко масштабировать его для всего приложения. Кроме того, существуют потенциальные угрозы безопасности в виде SQL-инъекций, для которых ChatGPT оставляет место, что в любом случае нехорошо.

Антон Логвиненко

Руководитель группы PHP/DevOps

Ответ ChatGPT:

<цитата>

В первой попытке этого примера я хотел, чтобы ChatGPT сгенерировал дерево элементов на основе предоставленного примера. Однако вывод оказался мусорным кодом, и я понял, что не указал в подсказке, что это дерево. Поэтому со второй попытки я добавил объяснение того, что мне нужно на выходе.

Антон Логвиненко

Руководитель группы PHP/DevOps

Ответ ChatGPT:

<цитата>

Со второй попытки ChatGPT выполнил задачу, и дерево выглядит нормально, за исключением качества кода. Какой вывод мы можем сделать из этого небольшого эксперимента? Очевидно, что ChatGPT пока не в состоянии заменить инженеров-программистов, потому что подход и качество написания кода все еще очень поверхностны. Но, в конце концов, со временем эта вещь определенно улучшится. Пока еще слишком рано говорить о ChatGPT как об автоматизированном кодописателе.

Антон Логвиненко Руководитель группы PHP/DevOps

Если вы рассматриваете варианты частичной автоматизации рабочих процессов кодирования и поддержки своих разработчиков, мы рекомендуем использовать Copilot. Copilot использует OpenAI Codex, чтобы предлагать фрагменты кода и функции в режиме реального времени, и оказалось, что его гораздо удобнее использовать разработчиками программного обеспечения среднего и старшего уровня с кодом гораздо лучшего качества. По сравнению с простым поиском в Google того, что нужно для завершения кода, Copilot обеспечивает гораздо более быстрые рабочие процессы, поэтому он является лучшей альтернативой тому, что ChatGPT может предложить на данный момент.

3. Создание пайплайнов ИИ с помощью моделей GPT

Учитывая, что модели GPT могут выполнять большинство задач НЛП, мы можем рассматривать их как альтернативу обучению ваших собственных языковых моделей. Следуя этой традиции, я расскажу об основах, задав ChatGPT вопрос, почему это может быть лучшим вариантом, чем обучение пользовательской модели НЛП:

Важно осознавать ограничения этого подхода. Поскольку модели GPT не имеют доступа к данным в реальном времени, они могут только помочь вам запустить какой-либо сервис без первоначального сбора данных. Со временем вы сможете собирать оперативные данные о взаимодействии модели с пользователями, но это не поможет исправить все конкретные задачи НЛП.

Вместо этого мы можем подумать о других областях науки о данных, в которых можно использовать модели GPT.

Обработка данных таблицы с помощью ChatGPT

Чтобы построить модель классификации, регрессии или прогнозирования, нам необходимо выполнить этапы исследовательского анализа данных (EDA). EDA позволяет нам находить отношения между различными функциями в данных и обозначать идеи и выбросы, чтобы понять причину того или иного аномального поведения. Таким образом, для большинства проектов по науке о данных потребуется выполнить 4 шага:

С помощью модели GPT указанный выше конвейер можно сократить до одного правильно сформулированного запроса к модели GPT. Например, давайте воспользуемся этим запросом о количестве продаж Amazon по кварталам и попросим ChatGPT извлечь из этой информации полезные сведения.

А здесь мы можем увидеть, к каким выводам и выводам пришел ChatGPT на основе ранее представленных данных:

Ответ ChatGPT:

"Статистика:

• Чистый объем продаж Amazon увеличился на 38 % в годовом исчислении в четвертом квартале.
• В первом квартале чистые продажи выросли на 26 % по сравнению с аналогичным периодом прошлого года.
• во втором квартале он увеличился на 40 % в годовом исчислении.
• Во втором квартале он увеличился на 40 % в годовом исчислении, а в третьем квартале — на 37 % в годовом исчислении.

Выводы (причины):

• Важно отметить, что пандемия COVID-19 оказала значительное влияние на продажи Amazon, поскольку все больше людей обращались к покупкам в Интернете, когда физические магазины были закрыты. Кроме того, сегменты Amazon AWS и Advertising также значительно выросли в 2020 году».

Выходные данные модели могут различаться по качеству, поэтому требуется контроль или тонкая настройка исходной подсказки. Однако такие возможности можно легко применить, чтобы упростить этап EDA и потенциально автоматизировать задачи пайплайна обработки данных.

5. ChatGPT для систем рекомендаций

Системы рекомендаций или рекомендательные системы стали такими же распространенными, как и поисковые системы, на различных платформах и в различных приложениях. Рекомендации выполняют одну очень важную задачу: понимают предпочтения каждого клиента, предлагают релевантный контент и удерживают клиента на платформе как можно дольше.

Но, несмотря на конкурентные преимущества, которые могут предоставить рекомендательные системы, тот факт, что мы не можем построить их без сбора данных, экспериментов и обучения рабочей модели, по-видимому, является основной причиной того, что не все могут позволить себе рекомендации. Чтобы начать рекомендовать, нам обычно нужно сначала собрать данные о нашем контенте, а затем методично отслеживать, к каким категориям контента тяготеют наши клиенты.

В этой ситуации мы можем использовать ChatGPT в качестве альтернативы механизмам рекомендаций, потому что внутри него уже есть тонны данных. Хотя он не настроен точно для вашего контента и не знает историю поиска ваших пользователей, он может предоставить довольно конкретные рекомендации, как только мы используем достаточно конкретные подсказки.

Например, мы использовали такой тип запроса: «Я хочу отправиться в путешествие. У меня есть 2-летний ребенок, и я люблю проводить время у моря. Куда мне идти?". Вот результат:

Ответ ChatGPT: «Отправиться в путешествие с двухлетним ребенком и провести время у моря может быть отличной идеей. Вот несколько предложений по направлениям, которые могут подойти вам и вашей семье:

* Пляжи Калифорнии: пляжи Калифорнии предлагают отличное сочетание солнца, песка и моря. Некоторые популярные направления включают Санта-Монику, Хантингтон-Бич и Ньюпорт-Бич. * Пляжи Флориды: Флорида является домом для многих красивых пляжей, включая Майами-Бич, Сиеста-Ки и Клируотер-Бич. * Пляжи Гавайев: пляжи Гавайев славятся своей чистой водой и мягким белым песком. Некоторые популярные направления включают пляж Вайкики, пляж Каанапали и пляж Поипу. * Пляжи Карибского моря: Карибское море является домом для многих красивых пляжей, в том числе Севен-Майл-Бич на Ямайке, Игл-Бич на Арубе и Грейс-Бей на островах Теркс и Кайкос. * Пляжи Средиземноморья: средиземноморские страны, такие как Испания, Греция и Италия, являются домом для многих красивых пляжей. Некоторые популярные направления включают Плайя-де-Муро на Майорке, Миконос в Греции и Позитано в Италии.

Стоит отметить, что эти направления также предлагают множество других развлечений и развлечений для взрослых и детей, таких как плавание, солнечные ванны, водные виды спорта, игровые площадки и тематические парки. Также важно учитывать другие факторы, такие как погода, безопасность и доступность, прежде чем принимать решение».

Если мы уточним наш запрос, добавив детали, вот как может выглядеть ответ:

Запрос: «Я хочу отправиться в путешествие. У меня есть 2-летний ребенок и я люблю проводить время у моря, у меня есть 3000$. Куда мне идти?».

Ответ ChatGPT:

«Отправиться в путешествие с двухлетним ребенком и провести время у моря может быть отличной идеей. При планировании поездки важно учитывать свой бюджет. Вот несколько предложений по направлениям, которые могут подойти вам и вашей семье в рамках вашего бюджета:

• Пляжи Мексики: Мексика предлагает отличное сочетание солнца, песка и моря. Некоторые популярные направления включают Канкун, Плайя-дель-Кармен и Пуэрто-Вальярта.
• Пляжи Центральной Америки. В таких странах, как Коста-Рика, Панама и Никарагуа, прекрасные пляжи, отличная погода и бюджетные условия.
• Пляжи Юго-Восточной Азии. В таких странах, как Таиланд, Вьетнам и Филиппины, прекрасные пляжи, отличная погода и бюджетные условия.
• Пляжи Карибского моря. Некоторые страны Карибского бассейна, такие как Доминиканская Республика, Ямайка и Куба, недороги и имеют прекрасные пляжи.

Стоит отметить, что эти направления также предлагают множество других развлечений и развлечений для взрослых и детей, таких как плавание, солнечные ванны, водные виды спорта, игровые площадки и тематические парки. Кроме того, путешествуя с 2-летним ребенком, важно учитывать доступность, безопасность и наличие жилья и услуг хорошего качества, таких как хорошие больницы и детские учреждения».

Как вы можете видеть, выходные данные не обрамлены параметрами, которые мы предоставили в качестве запроса, поскольку модель пытается пройти начальное приглашение. И даже эти необработанные результаты могут работать лучше, чем попытки найти контент с применением десятков фильтров, потому что для получения удовлетворительных результатов требуется, чтобы человек использовал правильные слова. По сути, это главное преимущество рекомендаций, основанных на НЛП, по сравнению со стандартными подходами.

Использование ChatGPT для задач компьютерного зрения

Поскольку модели GPT обучаются на текстовых данных, очевидно, что таким образом мы не можем заменить модели компьютерного зрения. Однако ChatGPT может упростить реализацию определенных частей конвейера компьютерного зрения, таких как:

* Определение цвета для известных изображений * Сходство изображений, например. логотипы, похожие на McDonalds по цвету или шрифту * Обнаружение объектов, например, идентификация объекта, изображенного на фотографиях, графических материалах, символах бренда и т. д. * Оптическое распознавание символов или OCR

Информация, предоставляемая ChatGPT, может быть полезна при анализе и подготовке данных для модели компьютерного зрения в разных областях. Например, в задачах OCR модель можно использовать для перетаскивания текста с картинки, как при распознавании удостоверений личности. Это отдельный этап подготовки данных для обучения.

Поскольку в каждой стране удостоверения личности имеют свой формат и разные поля, задача распознавания удостоверений личности может потребовать больших ресурсов. С помощью моделей GPT мы можем сократить время, необходимое для извлечения текстовых данных из изображений, поскольку ChatGPT может самостоятельно выполнять часть конвейера.

Важность оперативного проектирования и будущее моделей GPT

Инжиниринг подсказок — это, по сути, дисциплина создания рабочего входного текста, который передается в модель GPT как техническое задание. Результат всегда будет зависеть от того, как вы объясните, что вам нужно, и он включает в себя понимание того, как лучше всего указать на каждый аспект вашего запроса, чтобы модель не создавала для вас какого-то Франкенштейна. Существует несколько основных принципов быстрой разработки моделей GPT:

Будьте конкретны: чем конкретнее подсказка, тем более релевантным для поставленной задачи будет сгенерированный текст.

Определите контекст: чем больше контекста у модели, тем яснее задача для модели GPT. Установите подсказку на том же языке и в той же терминологии (используя особенности доменной зоны), на которой хотите получить ответ.

Найдите компромисс между длиной подсказки и ее специфичностью: более длинные и конкретные подсказки могут привести к более точным и релевантным ответам, но также усложнят управление моделью. В некоторых случаях сложные и длинные подсказки могут привести к тому, что модель сломается и запишет незавершенный ответ, с чем мы сталкивались несколько раз во время тестирования.

Все следующие примеры были сделаны с использованием ChatGPT на этапе предварительного выпуска, и он показывает гораздо лучшие результаты, чем его предшественники. Тем не менее, модель GPT 4 была анонсирована OpenAI в первом квартале 2023 года, и она использует в 500 раз больше выборок данных, чем GPT 3. Поэтому также имеет смысл отслеживать даты выпуска, и ситуация очень динамична, и вы можете предпочесть будущие модели OpenAI для вашего продукта.

Основным преимуществом моделей GPT является возможность найти пути решения задачи без исходного большого объема данных. Очевидно, что такие модели не могут полностью заменить нужный функционал. Однако в первых итерациях продукта использование таких моделей помогает начать разработку, предоставляя пользователям сервис при сборе пользовательских данных.

:::информация Также опубликовано здесь.

:::

---

Оригинал