Новое исследование, проведенное группой исследователей из Стэнфорда, показало, что инструменты искусственного интеллекта, генерирующие код, такие как Github Copilot, могут представлять больший риск для безопасности, чем многие пользователи могут себе представить.
В исследовании особое внимание уделялось Codex, продукт OpenAI, одним из соучредителей которого является Илон Маск.
Codex поддерживает принадлежащую Microsoft платформу GitHub Copilot, которая предназначена для упрощения и доступности кодирования за счет преобразования естественного языка в код и предложения изменений на основе контекстуальных данных.
Проблемы с AI-кодированием
Ведущий соавтор исследования Нил Перри объясняет, что «системы генерации кода в настоящее время не заменяют разработчиков-людей».
В исследовании приняли участие 47 разработчиков с разными способностями использовать Codex для проблемы, связанные с безопасностью, используя языки программирования Python, JavaScript и C. Он пришел к выводу, что участники, полагавшиеся на Codex, чаще писали небезопасный код по сравнению с контрольной группой.
Перри объяснил: "Разработчикам, использующим [инструменты программирования] для выполнения задач, выходящих за рамки их собственных знаний, следует быть обеспокоенными, а тем, кто использует их для ускорения выполнения задач, в которых они уже разбираются, следует тщательно перепроверить результаты и результаты. контекст, в котором они используются в проекте в целом».
Это не первый раз, когда инструменты кодирования на основе ИИ подвергаются тщательному анализу. Фактически, одно из решений GitHub по улучшению качества кода в Copilot привело к тому, что принадлежащая Microsoft компания столкнулась с судебным иском за то, что не указала работу других разработчиков. Результатом стал судебный иск на 9 миллиардов долларов за 3,6 миллиона отдельных нарушений Раздела 1202.
На данный момент инструменты для генерации кода на основе ИИ лучше всего рассматривать как руку помощи, которая может ускорить программирование, а не как всеобщую помощь. замены, однако, если судить по развитию за последние несколько лет, они могут вскоре заменить традиционное кодирование.
- Познакомьтесь с лучшей защитой конечных точек и лучшие инструменты брандмауэра
Через TechCrunch< /а>