Отчет показывает, что две трети руководителей служб безопасности рассматривают возможность запрета кода, созданного с помощью искусственного интеллекта

Одно из самых разрекламированных преимуществ распространения искусственного интеллекта заключается в том, что он может помочь разработчикам с черновыми задачами. Однако новое исследование показывает, что руководители по безопасности не полностью согласны с этим: 63% рассматривают возможность запрета использования ИИ в кодировании из-за рисков, которые оно несет.

Еще большая доля, 92%, опрошенных лиц, принимающих решения, обеспокоены использованием кода, сгенерированного ИИ, в своей организации. Все их основные опасения связаны со снижением качества выходных данных.

Модели ИИ могли быть обучены на устаревших библиотеках с открытым исходным кодом, и разработчики могли быстро стать чрезмерно зависимыми от использования инструментов, облегчающих им жизнь, что приведет к распространению некачественного кода в продуктах компании.

СМ.: Лучшие инструменты безопасности для разработчиков

Более того, руководители по безопасности считают, что маловероятно, что код, сгенерированный ИИ, будет проверяться на качество с такой же строгостью, как рукописные строки. Разработчики могут не чувствовать себя столь ответственными за выходные данные модели ИИ и, следовательно, не будут чувствовать такого давления, чтобы гарантировать ее идеальность.

На прошлой неделе TechRepublic побеседовал с Тариком Шаукатом, генеральным директором компании Sonar, занимающейся безопасностью кода, о том, что он «все чаще слышит» о компаниях, которые использовали ИИ для написания своего кода, но столкнулись с перебоями и проблемами безопасности.

«В целом это происходит из-за недостаточного количества проверок, либо потому, что компания не внедрила надежные методы контроля качества кода и проверки кода, либо потому, что разработчики изучают код, написанный с помощью ИИ, меньше, чем свой собственный код», — сказал он.

«Когда их спрашивают об ошибках в ИИ, они обычно отвечают: «Это не мой код», имея в виду, что они чувствуют себя менее ответственными, потому что не они его писали».

Новый отчет «Организации борются за безопасность сгенерированного ИИ и открытого исходного кода» от поставщика услуг по управлению идентификацией машин Venafi основан на опросе 800 лиц, принимающих решения в области безопасности в США, Великобритании, Германии и Франции. Он показал, что 83% организаций в настоящее время используют ИИ для разработки кода, и это обычная практика для более чем половины организаций, несмотря на опасения специалистов по безопасности.

«Начали возникать новые угрозы, такие как отравление ИИ и выход из модели, в то время как разработчики и новички используют огромные волны генеративного ИИ-кода способами, которые пока еще предстоит изучить», — сказал в отчете Кевин Бочек, директор по инновациям компании Venafi.

Хотя многие рассматривали возможность запрета кодирования с помощью ИИ, 72% посчитали, что у них нет выбора, кроме как позволить этой практике продолжаться, чтобы компания могла оставаться конкурентоспособной. По данным Gartner, к 2028 году 90% инженеров-программистов будут использовать помощников по кодированию с помощью ИИ и в процессе получат рост производительности.

СМ.: 31% организаций, использующих генеративный ИИ, просят его писать код (2023)

Специалисты по безопасности теряют сон из-за этой проблемы

Две трети респондентов отчета Venafi заявили, что им невозможно конкурировать с разработчиками, обладающими сверхвысокой производительностью, в обеспечении безопасности своих продуктов, а 66% заявили, что не могут контролировать безопасное использование ИИ в организации, поскольку не имеют представления о том, где он используется.

В результате руководители служб безопасности обеспокоены последствиями упущения потенциальных уязвимостей, а 59% теряют сон из-за этого вопроса. Почти 80% считают, что распространение кода, разработанного с помощью ИИ, приведет к расплате за безопасность, поскольку значительный инцидент требует реформы в том, как с ним справляться.

Бочек добавил в пресс-релизе: «Отделы безопасности застряли между молотом и наковальней в новом мире, где ИИ пишет код. Разработчики уже заряжены ИИ и не откажутся от своих суперспособностей. А злоумышленники проникают в наши ряды — недавние примеры долгосрочного вмешательства в проекты с открытым исходным кодом и северокорейского проникновения в ИТ — это лишь верхушка айсберга».