GhostGPT: чат-бот без цензуры, используемый киберпреступниками для создания вредоносных программ и мошенничества

Исследователи безопасности обнаружили новый вредоносный чат-бот, рекламируемый на форумах по киберпреступности. GhostGPT генерирует вредоносное ПО, мошеннические схемы взлома деловой электронной почты и другие материалы для незаконной деятельности.

Чат-бот, вероятно, использует оболочку для подключения к взломанной версии OpenAI ChatGPT или другой крупной языковой модели, подозревают эксперты Abnormal Security. Взломанные чат-боты получили указание игнорировать свои защитные меры, чтобы оказаться более полезными для преступников.

Что такое GhostGPT?

Исследователи безопасности обнаружили рекламу GhostGPT на киберфоруме, и изображение фигуры в капюшоне на заднем плане — не единственный признак того, что она предназначена для гнусных целей. Бот обеспечивает высокую скорость обработки, что полезно для кампаний с ограниченным временем. Например, злоумышленники, использующие программы-вымогатели, должны действовать быстро, попав в целевую систему, прежде чем будет усилена защита.

Также сообщается, что активность пользователя не регистрируется в GhostGPT и может быть куплена через зашифрованное приложение-мессенджер Telegram, что, вероятно, понравится преступникам, которые обеспокоены конфиденциальностью. Чат-бот может использоваться в Telegram, поэтому на устройство пользователя не нужно загружать подозрительное программное обеспечение.

Доступность через Telegram также экономит время. Хакеру не нужно создавать замысловатую подсказку для джейлбрейка или настраивать модель с открытым исходным кодом. Вместо этого они просто платят за доступ и могут приступать к работе.

«GhostGPT в основном рекламируется для различных вредоносных действий, включая кодирование, создание вредоносного ПО и разработку эксплойтов», — заявили исследователи Abnormal Security в своем отчете. «Его также можно использовать для написания убедительных писем для мошенничества BEC, что делает его удобным инструментом для совершения киберпреступлений».

В рекламе упоминается «кибербезопасность» как потенциальное применение, но, учитывая формулировку, намекающую на ее эффективность в борьбе с преступной деятельностью, исследователи говорят, что это, скорее всего, «слабая попытка уйти от юридической ответственности».

Чтобы проверить его возможности, исследователи дали ему запрос «Напишите фишинговое письмо от Docusign», и он ответил убедительным шаблоном, включая поле для «Поддельного номера службы поддержки».

Реклама собрала тысячи просмотров, что свидетельствует как о том, что GhostGPT оказывается полезным, так и о растущем интересе киберпреступников к взломанным LLM. Несмотря на это, исследования показали, что фишинговые письма, написанные людьми, имеют на 3% более высокий процент кликов, чем написанные ИИ, а также реже отмечаются как подозрительные.

Однако материал, сгенерированный ИИ, может быть создан и распространен быстрее, и это может сделать практически любой человек с кредитной картой, независимо от технических знаний. Его также можно использовать не только для фишинговых атак; исследователи обнаружили, что GPT-4 может автономно эксплуатировать 87% «однодневных» уязвимостей, если предоставить ему необходимые инструменты.

Разблокированные GPT появляются и активно используются уже около двух лет.

Частные модели GPT для злонамеренного использования появляются уже некоторое время. В апреле 2024 года отчет компании Radware, занимающейся безопасностью, назвал их одним из самых больших влияний ИИ на ландшафт кибербезопасности в этом году.

Создатели таких частных GPT, как правило, предлагают доступ за ежемесячную плату в сотни или тысячи долларов, что делает их хорошим бизнесом. Однако взломать существующие модели не так уж и сложно, и исследования показывают, что 20% таких атак оказываются успешными. В среднем злоумышленникам требуется всего 42 секунды и пять взаимодействий, чтобы взломать систему.

СМ.: Gartner обнаружил, что атаки с использованием искусственного интеллекта являются главной киберугрозой

Другие примеры таких моделей включают WormGPT, WolfGPT, EscapeGPT, FraudGPT, DarkBard и Dark Gemini. В августе 2023 года Ракеш Кришнан, старший аналитик угроз в Netenrich, сказал Wired, что у FraudGPT, по-видимому, всего несколько подписчиков и что «все эти проекты находятся в зачаточном состоянии». Однако в январе группа экспертов на Всемирном экономическом форуме, включая генерального секретаря Интерпола Юргена Стока, обсудила FraudGPT конкретно, подчеркнув его сохраняющуюся актуальность.

Есть доказательства того, что преступники уже используют ИИ для своих кибератак. Количество атак на корпоративную электронную почту, обнаруженных фирмой по безопасности Vipre во втором квартале 2024 года, было на 20% выше, чем за тот же период 2023 года, и две пятых из них были сгенерированы ИИ. В июне HP перехватила кампанию по распространению вредоносного ПО в дикой природе с помощью скрипта, который «с большой вероятностью был написан с помощью GenAI».

Паскаль Джиненс, директор по разведке угроз компании Radware, сообщил TechRepublic в электронном письме: «Следующим достижением в этой области, по моему мнению, станет реализация фреймворков для агентных служб ИИ. В ближайшем будущем следует ожидать полностью автоматизированных роев агентов ИИ, которые смогут выполнять еще более сложные задачи».