Осторожно — ChatGPT используется для создания вредоносных программ
27 мая 2023 г.Самый популярный в мире чат-бот ChatGPT использует свои возможности злоумышленниками для создания новых штаммов вредоносное ПО.
Компания по кибербезопасности WithSecure подтвердила, что обнаружила образцы вредоносного ПО, созданного печально известным Писатель ИИ в дикой природе. Что делает ChatGPT особенно опасным, так это то, что он может генерировать бесчисленные варианты вредоносных программ, что затрудняет их обнаружение.
Злоумышленники могут просто предоставить ChatGPT примеры существующего вредоносного кода и поручить создать на их основе новые штаммы, что позволит увековечить вредоносное ПО, не требуя почти того же уровня времени, усилий и опыта, что и раньше. .
За добро и за зло
Новости появились в виде обсуждений. регулирования ИИ предостаточно, чтобы предотвратить его использование в злонамеренных целях. По сути, не существовало никаких правил, регулирующих использование ChatGPT, когда он был запущен до безумия в ноябре прошлого года, и в течение месяца он уже был угнан для написания вредоносных писем и файлов.
В модели предусмотрены определенные внутренние меры безопасности, предназначенные для предотвращения выполнения гнусных подсказок, но злоумышленники могут обойти их.
Юхани Хинтикка, генеральный директор WithSecure, сообщил Infosecurity что ИИ обычно используется защитниками кибербезопасности для поиска и устранения вредоносных программ, созданных злоумышленниками вручную.
Однако кажется, что теперь, когда мощные инструменты искусственного интеллекта, такие как ChatGPT, доступны бесплатно, ситуация меняется. Инструменты удаленного доступа использовались в незаконных целях, а теперь и ИИ.
Тим Уэст, глава отдела анализа угроз в WithSecure, добавил, что «ChatGPT будет поддерживать разработку программного обеспечения как во благо, так и во вред, а также способствует и снижает барьер для входа злоумышленников в разработку вредоносного ПО».
p>
Кроме того, фишинговые электронные письма, которые может создавать ChatGPT, обычно обнаруживаются людьми, поскольку LLM становятся более продвинутыми, и, по словам Хинтикка, в будущем может стать труднее предотвратить попадание в такие аферы.
< p>Более того, с успех атак программ-вымогателей растет с тревожной скоростью, злоумышленники реинвестируют и становятся более организованными, расширяют операции за счет аутсорсинга и углубляют свое понимание ИИ, чтобы запускать более успешные атаки.Хинтикка пришел к выводу. что, глядя на будущее кибербезопасности, «это будет игра между хорошим ИИ и плохим ИИ».
- Вот лучшая защита конечных точек для обеспечения безопасности вашей компании
Оригинал