Ограничения соавторства с ChatGPT
20 февраля 2023 г.В последние недели я развлекался, работая над романом, который недавно набросал вместе с ChatGPT. За это время я обнаружил некоторые особенности системы.
Есть некоторые ограничения, которые установили тренеры алгоритма, и некоторые другие, которые на самом деле являются ограничениями текущей реализации. И после того, как вы закончите свою работу, вы также столкнетесь с другими ограничениями, установленными некоторыми интернет-изданиями.
Ограничения, установленные тренерами
Помните Tay_%28bot%29">Tay bot, опубликованный Microsoft в 2016 году? Тот, который выучил расовые оскорбления, и через несколько часов его пришлось застрелить?
Что ж, создатели ChatGPT не хотели этого повторять. Есть некоторые запросы, на которые ChatGPT просто не отвечает. Например, это приглашение:
<цитата>Можно ли взломать код кошелька Сатоши?
Результаты в этом ответе:
Тем не менее, он дает ответ. Однако, если спросить что-то более спорное, например, порекомендует ли мне поехать в Израиль, получится такой «дезинфицированный» ответ:
В этом ответе я чувствую, что обмениваюсь с тремя персонажами ChatGPT:
* Фактографическая, забавная часть ChatGPT с информацией, которую я искал.
* Юристы Chat GPT говорят мне, что это всего лишь алгоритм, и дают готовый ответ о рекомендациях по поездкам.
* Этическая сторона Chat GPT просит меня уважать местные обычаи.
И все же бывают случаи, когда он просто не отвечает, например, когда вы спрашиваете, как подключить автомобиль:
Ограничения текущей реализации
ChatGPT был обучен на большом количестве информации; но иногда он может ошибаться в своих данных. Я попросил информацию о Komax, компании, в которой я работаю. В первоначальном ответе указан неправильный год основания. Последующий диалог был довольно интересным:
ChatGPT был обучен на данных, взятых из Интернета, и, как гласит история изобретателя тостера , это может быть подделкой. Таким образом, вы должны принимать все ответы с щепоткой соли.
Кроме того, данные, используемые для обучения модели, устарели. Интересно, что когда его спрашивают об отказе Китая от политики Zero Covid, он пытается ответить утвердительно, но дает вам информацию о старой политике Zero Covid:
Обратите внимание, как в первом абзаце он пытается ответить, что Китай изменил свой подход к Covid; тем не менее, поскольку он констатирует факты, он противоречит сам себе. Это немного похоже на то, как ученица старшей школы бросает свой ответ, не изучив материал.
И делает это с самоуверенностью и наглостью, как у старшеклассника. Тем не менее, как честный ребенок, он скажет вам, что он основан на старых данных обучения:
Это означает, что ChatGPT нельзя использовать для создания новостных статей. Поскольку набор обучающих данных безопасен для работы, наличие более старого обучающего набора является преимуществом. Это похоже на разговор с кем-то, у кого отличная память о прошлом, но который на самом деле не знает, что происходит в мире.
Тем не менее, Chat GPT немного гиковский:
Но, несмотря на все вышеперечисленные особенности, работать в соавторстве с ChatGPT очень весело. Среди самых больших преимуществ, которые я обнаружил, следующие:
* Это позволяет вам быстро изучить направления и стиль истории. Например, попросить его написать абзац в напряженной или веселой манере.
* Вы можете попросить его обобщить то, что вы написали, и при этом получить обратную связь, если идеи, которые вы пытаетесь донести, звучат хорошо.
* Это как иметь рядом с собой крутого друга, у которого всегда будут какие-то интеллектуальные проблемы, которые вы хотите бросить ему на пути.
Тем не менее, как только вы напишете свою статью, вам нужно будет ее опубликовать. И, честно говоря, вы знаете, что не можете назвать это только своей работой, даже если вы были тем, кто генерировал все подсказки.
Ограничения, установленные публикациями
Публикации уже установили правила, гарантирующие, что отправляемые статьи не являются простыми работами, написанными ChatGPT. Поскольку в Medium вам платят за популярность ваших статей, читатели не хотели платить за кого-то, кто просто запускает ИИ и собирает слова.
У Medium теперь есть политика раскрытия информации:
Другие издания, вероятно, последуют этому примеру. Большое влияние будет на образование. Всем учителям, которые только что просили эссе от своих учеников, придется пересмотреть свою политику оценивания. И его также можно использовать для ответа на истинные и ложные вопросы.
Теперь это наводит меня на мысль для следующей статьи: попросите ChatGPT пройти личностный тест, как Майерс Бриггс.
Заключение
В заключение хочу сказать, что соавторство с ChatGPT может быть интересным и полезным инструментом для изучения творческого письма, но оно также имеет свои ограничения. Алгоритм был разработан с определенными ограничениями, установленными его инструкторами, такими как отказ от ответов на неуместные или неэтичные вопросы.
Кроме того, данные, используемые для обучения модели, устарели и могут содержать неточности, поэтому на них не следует полагаться при предоставлении текущей информации.
Наконец, когда дело доходит до публикации, существуют ограничения, установленные публикациями, чтобы гарантировать, что работа является оригинальной, а не создана исключительно ИИ.
Несмотря на эти ограничения, соавторство с ChatGPT может предоставить уникальный и интересный опыт для писателей, которые хотят быстро изучить различные стили письма и получить отзывы о своих идеях.
Оригинал