Инструменты для генерации кода могут быть скорее препятствием для безопасности, чем помощью
вычисления techradar.com Новости

Инструменты для генерации кода могут быть скорее препятствием для безопасности, чем помощью

29 декабря 2022 г.

Новое исследование, проведенное группой исследователей из Стэнфорда, показало, что инструменты искусственного интеллекта, генерирующие код, такие как Github Copilot, могут представлять больший риск для безопасности, чем многие пользователи могут себе представить.

В исследовании особое внимание уделялось Codex, продукт OpenAI, одним из соучредителей которого является Илон Маск.

Codex поддерживает принадлежащую Microsoft платформу GitHub Copilot, которая предназначена для упрощения и доступности кодирования за счет преобразования естественного языка в код и предложения изменений на основе контекстуальных данных.

Проблемы с AI-кодированием

Ведущий соавтор исследования Нил Перри объясняет, что «системы генерации кода в настоящее время не заменяют разработчиков-людей».

В исследовании приняли участие 47 разработчиков с разными способностями использовать Codex для проблемы, связанные с безопасностью, используя языки программирования Python, JavaScript и C. Он пришел к выводу, что участники, полагавшиеся на Codex, чаще писали небезопасный код по сравнению с контрольной группой.

Подробнее

> Это лучшие ноутбуки для программирования

> Майкрософт предъявляют иск за пиратство Github Copilot

> Низкий -код может заменить "традиционное" кодирование в течение нескольких месяцев

Перри объяснил: "Разработчикам, использующим [инструменты программирования] для выполнения задач, выходящих за рамки их собственных знаний, следует быть обеспокоенными, а тем, кто использует их для ускорения выполнения задач, в которых они уже разбираются, следует тщательно перепроверить результаты и результаты. контекст, в котором они используются в проекте в целом».

Это не первый раз, когда инструменты кодирования на основе ИИ подвергаются тщательному анализу. Фактически, одно из решений GitHub по улучшению качества кода в Copilot привело к тому, что принадлежащая Microsoft компания столкнулась с судебным иском за то, что не указала работу других разработчиков. Результатом стал судебный иск на 9 миллиардов долларов за 3,6 миллиона отдельных нарушений Раздела 1202.

На данный момент инструменты для генерации кода на основе ИИ лучше всего рассматривать как руку помощи, которая может ускорить программирование, а не как всеобщую помощь. замены, однако, если судить по развитию за последние несколько лет, они могут вскоре заменить традиционное кодирование.

Через TechCrunch< /а>

Оригинал

Recent Post

Categories

PREVIOUS ARTICLE
NEXT ARTICLE