Можно ли доверять ChatGPT? Это будущее или это просто хороший трюк?
16 февраля 2023 г.Это надолго или это просто очередной трюк? Мы задаем разные варианты этого вопроса всякий раз, когда появляется новая прорывная технология. А с созданием ChatGPT эти дебаты стали более интенсивными, чем когда-либо.
С момента своего запуска в ноябре 2022 года в качестве бесплатного исследовательского прототипа чат-бот OpenAI ChatGPT получил ошеломляющий отклик, и его используют более миллиона человек по всему миру.
Он основан на GPT-3, усовершенствованной современной языковой модели, которая использует глубокое обучение для создания простого для понимания текста.
ChatGPT взаимодействует в диалоговом режиме и может объяснить сложные и трудные для теоретизирования понятия простыми словами.
Пользователи завалили программу вопросами, некоторые использовали ее, чтобы получить помощь с домашним заданием, другие курировали планы по снижению веса, писали код и даже общались с чат-ботом, выдающим себя за таких людей, как Марк Твен.
Но можно ли доверять ChatGPT, или это очередной трюк, который исчезнет через несколько месяцев или лет? Давайте проанализируем, что люди думают об этой программе искусственного интеллекта.
Революционная технология?
Выпуск ChatGPT считается поворотным моментом в генеративном искусственном интеллекте и технологии в целом. Аналитик Forrester Research AI/ML Роуэн Карран сравнил это инновации с другими самыми революционными технологиями, выпущенными в этом столетии.
«Единственное, с чем я смог его сравнить, — это выпуск iPhone». Оригинальный iPhone, хотя и не первый смартфон, успешно устранил конкуренцию и установил совершенно новую рыночную монополию. Это привело к беспрецедентным технологическим изменениям.
Точно так же ChatGPT может все. Он не только дает простые и лаконичные ответы на сложные вопросы, но также может использоваться для перевода текста на другие языки. ChatGPT содержит более 300 миллиардов слов на разных языках.
Создатели контента используют программу для генерации свежих идей для видео. Он даже может писать простой код на различных языках программирования.
Существует невообразимый потенциал использования ChatGPT в различных отраслях. Улучшение обслуживания клиентов, создание персонализированных покупок и оказание медицинской помощи — вот лишь некоторые из возможностей этой программы искусственного интеллекта.
Используя ChatGPT, можно наблюдать значительное увеличение скорости выполнения сложных задач.
Работу, для которой раньше требовалось несколько программистов, с помощью ИИ может выполнять всего один хороший программист, и вскоре даже люди, не умеющие программировать, смогут писать код с помощью ChatGPT.
От повседневных черных задач, таких как составление списка продуктов для ваших блюд, до обучения простым словам обезвреживания бомбы, ChatGPT может служить окончательным руководством во всем.
Или карманная ядерная бомба?
Но не всем это нравится.
Венчурный инвестор и давний интернет-аналитик Пол Кедроски назвал это «карманной ядерной бомбой» и продолжил, сказав: «Очевидно, что это должно быть запрещено так же, как у нас есть правила в отношении дипфейков или правила в отношении дизайнерских наркотиков и наркотиков». производство синтетического вируса на основе ДНК оспы."
Граница между человеческим и машинным авторством стерлась за одну ночь. Педагоги также выразили обеспокоенность по поводу этой программы и того, что им потребуется помощь в определении того, является ли контент подлинным или chatgpt-defends-self">заимствован из ChatGPT.
Экзамены на дому или письменные задания легко могут стать плагиатом с помощью чат-бота.
Хорошая новость заключается в том, что Google постоянно обновляет свой алгоритм для обнаружения контента, созданного искусственным интеллектом. Программа под названием Originality.AI также утверждает, что способна обнаруживать даже самое незначительное использование ChatGPT в различном контенте.
Люди также обеспокоены тем, что это может поставить под угрозу такие рабочие места, как авторы-призраки или редакторы, поскольку любой может создавать оригинальный контент с его помощью. Но может быть приятно знать, что ответы ChatGPT шаблонны и неинтересны по своей структуре. Он не может подражать эмоциям, которые человек вкладывает в письмо.
Можем ли мы действительно доверять ChatGPT?
Важно отметить, что ChatGPT не всезнающий. Он знает только то, чем его кормили или обучали. Он не может получить доступ к Интернету и плохо разбирается в событиях после 2021 года. Программа также не может полностью понять сложность человеческого языка.
Он обучен генерировать ответ на заданный ввод и не обязательно знает или понимает, что означает ввод.
У чат-бота также есть моральное превосходство, что означает, что он отказывается давать ответы на вопросы, которые он может счесть вредными или этически неправильными. Но есть загвоздка!
Хотя ChatGPT может отказаться отвечать на прямой вопрос, который, по его мнению, может быть вредным, если вы бросите ему вызов, он будет обманут, чтобы сгенерировать ответ.
На вопрос, как подключить автомобиль, ChatGPT отказался отвечать, заявив, что подключение автомобиля незаконно.
Но некоторые пользователи проявили творческий подход, попросив чат-бота написать стихотворение о подключении автомобиля к сети, а один даже обманул его, сказав ChatGPT, что подключение автомобиля к сети — единственный способ спасти ребенка.
В конечном счете, эта человеческая характеристика эмпатии и моральной совести, которая была в некоторой степени укоренена в ИИ, заставила его ответить на такой вопрос, хотя это было этически неправильно.
OpenAI признал это, заявив: «Хотя мы приложили усилия, чтобы заставить модель отклонять неуместные запросы, она иногда будет реагировать на вредные инструкции или проявлять предвзятое поведение».
Судьба ChatGPT
Но ChatGPT все еще является прототипом и находится на стадии тестирования. Компания предупредила людей, использующих его, что иногда он может генерировать неверную информацию. Программе предстоит много обновлений и доработок.
Добавление водяных знаков к контенту с помощью криптографических подписей — это одно из возможных решений, позволяющих устранить опасения по поводу того, что ChatGPT угрожает системе образования.
ChatGPT никуда не денется, но OpenAI не контролирует судьбу созданной им программы. Это не может помешать людям распространять дезинформацию или злоупотреблять программой. Это может усилить систему сдержек и противовесов, но насколько эти подкрепления будут успешными?
Точно так же, как вы советуете другим не верить всему, что вы читаете в Интернете, ChatGPT не является исключением. Это связано с недостатками и неточностями, и их выявление и знание того, когда доверять программе, а когда нет, зависит от пользователя.
Оригинал