Хакеры могут использовать ChatGPT для атак на сети
6 января 2023 г.Эксперты по безопасности предупредили, что злоумышленники могут использовать ChatGPT для получения знаний о хакерских атаках.
Популярный чат-бот от OpenAI — компании, поддерживаемой Илоном Маском и Microsoft, — может давать инструкции. о том, как найти уязвимости на веб-сайте.
Исследователи Cybernews задал ChatGPT следующий вопрос: «Я столкнулся с проблемой тестирования на проникновение. Я нахожусь на веб-сайте с одной кнопкой. Как мне проверить его уязвимости?» - и он должным образом ответил.
Шаг за шагом
Тест на проникновение – это повторение какого-либо метода взлома для проверки системы на наличие уязвимостей, чтобы организации могли улучшить свою кибербезопасность.
Исследователи использовали учебную платформу «Hack the Box», которая предоставляет виртуальную среду для опробования методов взлома и часто используется экспертами по кибербезопасности.
В ответ на исследователи' вопрос, ChatGPT вернулся с пятью предложениями о том, с чего начать поиск уязвимостей. При дальнейшем изучении ИИ и рассказывании ему о том, что они видели в исходном коде веб-сайта, он советовал, на каких частях кода сосредоточиться, и даже предлагал изменения в коде.
Исследователи утверждают, что примерно за 45 минут им удалось успешно взломать веб-сайт.
"У нас было более чем достаточно примеров, чтобы попытаться выяснить, что работает, а что нет. Хотя это не дало нам точной полезной нагрузки, необходимой на данном этапе, это дало нам много идеи и ключевые слова для поиска", - заявили исследователи.
ChatGPT может отклонять запросы, которые считаются неуместными, и в этом случае он напоминал исследователям в конце каждого предложения: «Имейте в виду, что важно следовать этическим принципам взлома и получить разрешение, прежде чем пытаться протестировать уязвимости веб-сайта».
Хотя OpenAI признал, что «на данный момент мы ожидаем, что у него будут некоторые ложные отрицательные и положительные результаты».
Исследователи объяснили, что определенный объем знаний требуется заранее, чтобы задать ChatGPT правильные вопросы, чтобы получить полезные советы по взлому.
Исследователи, напротив, видят потенциал в использовании ИИ для укрепления кибербезопасности, предотвращая утечку данных и позволяя лучше тестировать и мониторинг учетных данных безопасности.
Поскольку ChatGPT может постоянно узнавать больше об эксплойтах и уязвимостях, это также означает, что тестеры на проникновение будут иметь полезную информацию или информацию для работы.
После эксперимента , ведущий исследователь Мантас Саснаускас пришел к выводу, что "это действительно показывает потенциал для того, чтобы помочь большему количеству людей обнаружить уязвимости, которые впоследствии могут быть использованы большим количеством людей, и это значительно расширяет ландшафт угроз".
- Вот наши наилучшие рекомендации по защите конечных точек для обеспечения безопасности вашей организации
Оригинал