ChatGPT снова используется для создания вредоносного контента
9 февраля 2023 г.Похоже, что первоначальные ограничения, которые OpenAI наложил на ChatGPT, чтобы предотвратить использование инструмента в злонамеренных целях, мало что дали, поскольку мошенники быстро нашли способ их обойти.
Это согласно новый отчет от Check Point Research (CPR), в котором утверждается, что даже после введения ограничений мошенникам удалось использовать писатель ИИ< /a> для улучшения кода базовой вредоносной программы для кражи информации из 2019 года.
Революция в Интернете с помощью разговоров
ChatGPT – это чат-бот, созданный OpenAI, который вызвал немало удивлений благодаря своему разговорному стилю и творческим подвигам. Microsoft уже внедряет его в свой веб-браузер Edge и поисковую систему Bing, обещая революцию в том, как люди используют Интернет. .
Есть два способа использования этого инструмента: либо через веб-интерфейс пользователя (простой доступ к ChatGPT, DALLE-2 или игровой площадке openAI), либо через интерфейсы прикладного программирования (API), которые используется для создания приложений, процессов и т.п. С помощью API разработчики могут использовать собственный интерфейс с моделями и данными OpenAI, работающими в фоновом режиме.
> У Microsoft Edge теперь есть собственный инструмент ChatGPT< /a> Несмотря на то, что OpenAI установил жесткие ограничения для пользователей веб-интерфейса (например, вы больше не можете запрашивать у инструмента написать фишинговое электронное письмо, выдавая себя за банк или финансовое учреждение), по словам исследователей, ограничений для подхода API не существует. «Используется текущая версия API OpenAI. внешними приложениями (например, интеграция модели OpenAI GPT-3 в каналы Telegram) и имеет очень мало мер по борьбе со злоупотреблениями. В результате он позволяет создавать вредоносный контент, такой как фишинговые электронные письма и вредоносный код, без ограничений или барьеров, которые ChatGPT установил в своем пользовательском интерфейсе». Что еще хуже, это вряд ли CPR. Исследователи говорят, что вместо этого на подпольных форумах по этой теме ведется «активная болтовня», а это означает, что все больше киберпреступников уже знают об обходном пути для ограничений ChatGPT.
> ChatGPT используется для создания вредоносных писем и кода
> Это лучшие инструменты для удаления вредоносных программ на данный момент
Оригинал