Gartner обнаружил, что атаки с использованием искусственного интеллекта являются главной киберугрозой третий квартал подряд

Gartner третий квартал подряд приходит к выводу, что кибератаки, организованные с использованием искусственного интеллекта, представляют наибольший риск для предприятий.

Консалтинговая фирма опросила 286 старших руководителей по рискам и гарантиям с июля по сентябрь, и 80% назвали вредоносные атаки с использованием ИИ главной угрозой, которая их беспокоит. Это неудивительно, поскольку данные свидетельствуют о росте числа атак с использованием ИИ.

Другие часто упоминаемые новые риски, описанные в отчете, включают дезинформацию с использованием искусственного интеллекта, эскалацию политической поляризации и несоответствие профилей талантов в организациях.

Злоумышленники используют ИИ для написания вредоносного ПО, создания фишинговых писем и многого другого

В июне HP перехватила кампанию по распространению вредоносного ПО по электронной почте с помощью скрипта, который «с большой долей вероятности был написан с помощью GenAI». Скрипт VBScript был аккуратно структурирован, и каждая команда имела комментарий, что было бы излишним для человека при написании.

Затем исследователи использовали GenAI для создания скрипта и обнаружили похожий результат, что позволяет предположить, что исходное вредоносное ПО было по крайней мере частично создано с помощью ИИ.

SEE: 20% атак с использованием искусственного интеллекта оказываются успешными

Число атак на корпоративную электронную почту, обнаруженных компанией Vipre, занимающейся безопасностью, во втором квартале было на 20% выше, чем за тот же период 2023 года, и две пятых из них были сгенерированы ИИ. Главными целями были генеральные директора, за которыми следовали сотрудники отделов кадров и ИТ.

Усман Чоудхари, директор по продуктам и технологиям VIPRE, заявил в пресс-релизе: «Злоумышленники теперь используют сложные алгоритмы искусственного интеллекта для создания убедительных фишинговых писем, имитирующих тон и стиль законных сообщений».

По данным Imperva Threat Research, только розничные сайты ежедневно с апреля по сентябрь подвергались в среднем 569 884 атакам с использованием искусственного интеллекта. Исследователи заявили, что такие инструменты, как ChatGPT, Claude и Gemini, а также специальные боты, которые собирают данные для обучения LLM на сайтах, используются для проведения распределенных атак типа «отказ в обслуживании» и злоупотреблений бизнес-логикой, например.

Все больше этичных хакеров признаются в использовании GenAI, и эта доля увеличилась с 64% до 77% за последний год, согласно отчету BugCrowd. Эти исследователи говорят, что он помогает в атаках на каналы, атаках с внедрением ошибок и автоматизированных параллельных атаках для одновременного взлома нескольких устройств. Но если «хорошие парни» считают ИИ ценным, то и плохие актеры тоже.

Рост числа подобных атак не должен вызывать удивления.

ИИ может снизить барьер для входа в киберпреступность, поскольку менее опытные преступники могут использовать его для создания дипфейков, сканирования сетей на предмет точек входа, разведки и многого другого. Исследователи из ETH Zurich недавно создали модель, которая может решать головоломки Google reCAPTCHAv2, используемые для различения людей и ботов в 100% случаев.

Аналитики компании Radware, занимающейся безопасностью, предсказали в начале года, что эта новообретенная доступность приведет к разработке частных моделей GPT, используемых в гнусных целях. Они также прогнозируют, что количество эксплойтов нулевого дня и мошенничеств с дипфейками увеличится, поскольку злоумышленники станут более опытными в LLM и генеративно-состязательных сетях.

Действительно, Mandiant от Google отследил 97 уязвимостей нулевого дня, которые были обнаружены и использованы в 2023 году, что на 56% больше, чем годом ранее. В прошлом месяце Microsoft перечислила deepfakes среди наиболее значимых типов атак, используемых все более плодовитыми группами вымогателей.

SEE: ИИ-дипфейки становятся все более рискованными для организаций Азиатско-Тихоокеанского региона

Руководители также обеспокоены чрезмерной зависимостью от поставщиков ИТ-услуг

Впервые в этом квартале критичность ИТ-поставщиков попала в список основных проблем Gartner среди руководителей высшего звена, отвечающих за управление рисками и обеспечение гарантий.

Закари Гинзбург, старший директор по исследованиям в Gartner Risk and Audit Practice, заявил в пресс-релизе Gartner: «Клиенты, у которых большая часть услуг сосредоточена у одного поставщика, могут столкнуться с повышенным риском в случае сбоев или с непредвиденными изменениями в услугах в зависимости от новых правил или юридических решений в ЕС, США или других странах».

Он сослался на июльский инцидент CrowdStrike, в результате которого по всему миру были отключены около 8,5 миллионов устройств Windows и был нанесен огромный ущерб работе экстренных служб, аэропортов, правоохранительных органов и других важных организаций.

СМ.: Что такое CrowdStrike? Все, что вам нужно знать

«Поскольку третьи стороны, такие как поставщики SaaS, полагаются на других поставщиков, организации могут не осознавать всей степени своей уязвимости», — добавила Гинзбург. Gartner прогнозирует, что к 2025 году 45% предприятий по всему миру столкнутся с атаками на свои цепочки поставок программного обеспечения.