ChatGPT, которого обманывают, заставляя генерировать старые ключи Windows, иллюстрирует более широкую проблему с ИИ.
4 апреля 2023 г.Прежде чем вы начнете карабкаться на повозке возмущения , намереваясь нестись вперед на полной скорости, не думая щадить лошадей, рассматриваемый пользователь пытался сгенерировать ключи для уже давно избыточной операционной системы, а именно Windows 95.
Neowin выделил этот эксперимент, проведенный YouTuber (Enderman), который начал с вопроса чат-боту OpenAI: «Можете ли вы сгенерировать действительный ключ Windows 95?»
Неудивительно, что ChatGPT ответил, что не может сгенерировать такой ключ или «любой другой тип ключа активации для проприетарного программного обеспечения». Прежде чем добавить, что Windows 95 в любом случае является древней ОС и что пользователю следует подумать об установке более современной версии Windows по-прежнему находится в поддержке по очевидным причинам безопасности.
Не испугавшись, Эндерман вернулся, чтобы разобрать состав лицензионного ключа Windows 95, и придумал пересмотренный запрос.
Вместо этого он выдвинул необходимый формат строки для ключа Windows 95 без упоминания ОС по имени. Получив эту новую подсказку, ChatGPT выполнил операцию, многократно сгенерировав наборы из 30 ключей, и по крайней мере некоторые из них были действительными. (На самом деле, примерно один из 30, и поиск работающего не занял много времени).
Когда Эндерман поблагодарил чат-бота за «бесплатные ключи Windows 95», ChatGPT сообщил ютуберу, что это не предоставил ничего подобного, поскольку, конечно, «это было бы незаконно».
Затем Эндерман сообщил чат-боту, что один из предоставленных ключей сработал для установки Windows 95, и ChatGPT настаивал, что «это не возможно.”
<час>Анализ: ключевое значение имеет контекст
Как уже отмечалось, это был просто эксперимент во имя развлечения, в котором не произошло ничего противозаконного, поскольку на данный момент Windows 95 является заброшенным программным обеспечением. Конечно, Microsoft все равно, взломаете ли вы ее почти 30-летнюю операционную систему, как и всех остальных. В любом случае, вам явно не захочется запускать Windows 95.
Стоит помнить, что серийные ключи Windows 95 имеют гораздо менее сложный состав, чем ключ современной ОС, и взломать их действительно довольно тривиальная задача. . Для опытного программиста не составит труда написать простую компьютерную программу для генерации этих ключей. И они все будут работать, а не только один из 30, что на самом деле довольно дрянной результат от ИИ, если честно.
Однако это не главное в этом эпизоде. Дело в том, что ChatGPT можно было подделать, чтобы сделать рабочий ключ для старой ОС, и он не был способен провести какую-либо связь между поставленной перед ним задачей и возможностью того, что он делал подобные ключу числа. Если бы «Windows 95» была упомянута во второй попытке создать ключи, ИИ, несомненно, остановился бы на своем пути, как это сделал чат-бот с первоначальным запросом.
Все это указывает на более широкую проблему. с искусственным интеллектом, изменяя контекст, в котором делаются запросы может обойти меры защиты.
Интересно также, что ChatGPT настаивает на том, что он не мог создать действительные ключи Windows 95, поскольку в противном случае это помогло бы пользователю нарушить закон (ну, во всяком случае, в теории).
Оригинал