Новый инструмент OpenAI говорит, что может распознавать текст, написанный ИИ
1 февраля 2023 г.OpenAI объявил о новом инструменте, который он говорит, что может определить разницу между текстом, написанным человеком, и текстом, написанным писателем с искусственным интеллектом — иногда.
Компания, поддерживаемая Microsoft, заявляет, что новый классификатор, как он называется, был разработан для борьбы со злонамеренным использованием генераторов контента ИИ, таких как ее собственный и очень популярный ChatGPT, при «запуске автоматические кампании по дезинформации,… академическая нечестность и позиционирование чат-бота с искусственным интеллектом как человека».
На данный момент он утверждает, что классификатор имеет показатель успеха 26% при идентификации контента, созданного ИИ, правильно помечая его как «вероятно написанный ИИ», и 9% ложноположительных результатов при неправильной маркировке работы людей. искусственно созданный.
Найди отличия
OpenAI отмечает, что классификатор работает лучше, чем длиннее текст, и что по сравнению с предыдущими версиями новая версия «значительно более надежна» при обнаружении автоматически сгенерированного текста из более поздних инструментов ИИ.
Классификатор теперь общедоступен, и OpenAI будет использовать полученные отзывы, чтобы определить его полезность и помочь улучшить дальнейшие разработки инструментов обнаружения ИИ в будущем.
OpenAI стремится указать, что у него есть свои ограничения, и на него не следует полагаться как на «основной инструмент принятия решений», мнение, разделяемое большинством участников во всех областях ИИ.
Как уже упоминалось, длина текста важна для успеха классификатора, поскольку OpenAI заявляет, что он «очень ненадежен» для фрагментов, содержащих менее тысячи символов.
Даже более длинные тексты могут быть неправильно идентифицированы, а написанный человеком контент может быть «неправильно, но уверенно помечен как написанный ИИ». Кроме того, он хуже работает с текстом, написанным не на английском языке, а также с компьютерным кодом.
Предсказуемый текст, в котором содержимое может быть реально написано только одним способом, также не может быть надежно помечен, например, список из первой тысячи простых чисел, чтобы дать пример OpenAI.
Более того, OpenAI отмечает, что текст ИИ можно редактировать, чтобы обмануть классификатор, и хотя классификатор можно обновлять и учиться на таких обманах, интересно, что компания говорит, что «неясно, имеет ли обнаружение преимущество в долгосрочный».
Текст, который также сильно отличается от того, на котором он был обучен, также может вызвать проблемы с классификатором, поскольку он «иногда [быть] чрезвычайно уверенным в неправильном прогнозе».
В этих обучающих данных OpenAI говорит, что использовала пары письменных текстов на одну и ту же тему, один из которых был создан ИИ, а другой, как он полагал, был написан человеком — некоторые из них были собраны из ответов человека на подсказки, используемые для обучения InstructGPT, модели ИИ. от компании, которая в основном используется исследователями и разработчиками.
Разработка классификатора происходит на фоне многочисленных опасений и споров, связанных с использованием чат-ботов с искусственным интеллектом, таких как собственный ChatGPT OpenAI, в академических учреждениях, таких как средние школы и университеты.
Обвинения в списывании растут, так как студенты используют чат-бот, чтобы писать за них свои задания. Платформа отправки эссе Turnitin даже разработала свою собственную систему обнаружения записи ИИ в ответ.
OpenAI признает этот факт и даже разработала свой собственный набор рекомендаций для преподавателей, чтобы понять использование и ограничения ChatGPT. Он надеется, что его новый классификатор будет полезен не только этому учреждению, но и «журналистам, исследователям дезинформации и другим группам».
Компания хочет, чтобы преподаватели узнали об их опыте использования ChatGPT в классе, и они могут использовать цель эту форму, чтобы отправить отзыв в OpenAI.
Инструменты для письма с искусственным интеллектом вызывают ажиотаж и в других местах. Технический сайт CNET недавно появился подвергся критике за использование инструмента ИИ для написания статей в рамках эксперимента, но был обвинен в том, что не смог отличить эти статьи от статей, написанных реальными людьми. В таких статьях также были обнаружены некоторые основные фактические ошибки.
- Если вас беспокоят скопированные работы, вот лучшие детекторы плагиата
Оригинал