вычисления techradar.com Новости

ChatGPT снова используется для создания вредоносного контента

9 февраля 2023 г.

Похоже, что первоначальные ограничения, которые OpenAI наложил на ChatGPT, чтобы предотвратить использование инструмента в злонамеренных целях, мало что дали, поскольку мошенники быстро нашли способ их обойти.

Это согласно новый отчет от Check Point Research (CPR), в котором утверждается, что даже после введения ограничений мошенникам удалось использовать писатель ИИ< /a> для улучшения кода базовой вредоносной программы для кражи информации из 2019 года.

Революция в Интернете с помощью разговоров

ChatGPT – это чат-бот, созданный OpenAI, который вызвал немало удивлений благодаря своему разговорному стилю и творческим подвигам. Microsoft уже внедряет его в свой веб-браузер Edge и поисковую систему Bing, обещая революцию в том, как люди используют Интернет. .

Есть два способа использования этого инструмента: либо через веб-интерфейс пользователя (простой доступ к ChatGPT, DALLE-2 или игровой площадке openAI), либо через интерфейсы прикладного программирования (API), которые используется для создания приложений, процессов и т.п. С помощью API разработчики могут использовать собственный интерфейс с моделями и данными OpenAI, работающими в фоновом режиме.

Подробнее

> У Microsoft Edge теперь есть собственный инструмент ChatGPT< /a>

> ChatGPT используется для создания вредоносных писем и кода

> Это лучшие инструменты для удаления вредоносных программ на данный момент

Несмотря на то, что OpenAI установил жесткие ограничения для пользователей веб-интерфейса (например, вы больше не можете запрашивать у инструмента написать фишинговое электронное письмо, выдавая себя за банк или финансовое учреждение), по словам исследователей, ограничений для подхода API не существует.

«Используется текущая версия API OpenAI. внешними приложениями (например, интеграция модели OpenAI GPT-3 в каналы Telegram) и имеет очень мало мер по борьбе со злоупотреблениями. В результате он позволяет создавать вредоносный контент, такой как фишинговые электронные письма и вредоносный код, без ограничений или барьеров, которые ChatGPT установил в своем пользовательском интерфейсе».

Что еще хуже, это вряд ли CPR. Исследователи говорят, что вместо этого на подпольных форумах по этой теме ведется «активная болтовня», а это означает, что все больше киберпреступников уже знают об обходном пути для ограничений ChatGPT.

Познакомьтесь с лучшими брандмауэрами прямо сейчас

Оригинал

ChatGPT снова используется для создания вредоносного контента

Революция в Интернете с помощью разговоров

Recent Post

Революционный проект Zluda: как открытая альтернатива CUDA может изменить мир вычислений

Приложение Botpad's Windows 11 получает новые трюки на форматирование, которые уже оказываются спорными

Основная доклада Apple WWDC 2025 может быть «разочарованием», но есть 4 разведывательных проекта Apple, над которым работает, что вы должны быть в восторге от

Время обновления? WhatsApp только что опустил поддержку этих старых iPhone и Android -телефонов

Macos Tahoe, по слухам, следовать за Sequoia - вот 3 вещи, чтобы ожидать от следующей настольной ОС Apple

Categories