Как искусственный интеллект меняет ландшафт кибербезопасности
4 апреля 2023 г.Итак, давайте спросим себя, что это за ИИ? и как это связано с кибербезопасностью? Начнем с того, что ИИ или искусственный интеллект — это сложная программа, способная выполнять вычисления, имитирующие людей, как если бы они обладали собственным разумом; они могут выполнять множество сложных вычислений, предсказывать будущее, происходящее в процессе, которому они обучены, а также вносить исправления в код, создавать код и т. д.
Теперь мы можем увидеть, как ИИ может повлиять на кибербезопасность как на профессию, так и на бизнес.
Темы для обсуждения
- ИИ в кибербезопасности
- Обучение и сложность ИИ
- Эффективность и ограничения этих систем
- Как использовать openai API в полной мере
- Может ли он заменить профессионалов?
ИИ в кибербезопасности
Искусственный интеллект представляет собой сложный алгоритм, решающий задачи с использованием математики, и он, без сомнения, эффективен, но для обучения ему требуется огромный объем данных. Если мы попробуем обучить ИИ сейчас
При создании полезной нагрузки XSS необходимо учитывать множество факторов. В то время как ИИ обнаружения не нужно много обучать, ему может потребоваться несколько ГБ полезной нагрузки всех видов генераторов полезной нагрузки, чтобы быть обученным с эффективностью 95%, ИИ генерации не похож на ИИ, который должен быть обучен методам и там это сотни уникальных методов, которые люди используют для генерации полезной нагрузки. Сама основная полезная нагрузка имеет множество методов, и если мы рассмотрим запутывание, то это:
* Кодировка ЮНИКОД * Кодировка BASE64 * Кодировка URL
Чтобы назвать несколько, комбинация этих двух элементов может генерировать огромные суммы для обучения ИИ на данных, требующих много времени. Дело в том, что на каждом шагу, который делает хакер, он следует своим собственным шаблонам, воссоздавая их, не говоря уже о том, чтобы тренировать их чрезвычайно усердно, в то время как угадать такие следы легко, для этого нужны навыки, а системам ИИ даже сейчас не хватает этих навыков для воссоздания.
Теперь давайте возьмем практический пример, все, кто там в сфере ИТ или программирования, использовали chatGPT хотя бы раз, я использую его каждый день для своих заданий, и никто не виноват, что я упрощаю себе колледж. ИИ обучен бесчисленным статьям, исследовательским работам и т. д., чтобы получать наиболее точные результаты. Даже chatGPT дошел до того, что заявил, что полностью заменяет 20 различных заданий с помощью GPT-4, мы не знаем, полностью ли он заменим или нет, но это то, что, по его словам, он может сделать.
Из того, что я могу сказать, ИИ не в состоянии заменить рабочие места, вместо этого он будет очень ценным инструментом для повышения эффективности работы. Например, недавно я работал над проектом, включающим API-интерфейс chatGPT. Я интегрировал его с модулем Python-Nmap для создания сканера и инструмента оценки уязвимостей на основе ИИ, и результаты были потрясающими: точность более 90% при каждом сканировании и с четкими подробностями о том, что такое сканирование, какой порт что делает и CVE со ссылкой.
Вы можете проверить код здесь:
https://github.com/morpheuslord/GPT_Vuln-analyzer?embedable=true
Это также делает автоматизацию задач, таких как ручной поиск CVE, ссылок и т. д., очень эффективной. В дополнение к моему мнению, использование этого в качестве инструмента или расширения повышает производительность и может не заменять нашу работу.
Обучение и сложность ИИ
Как уже упоминалось выше, обучение ИИ — сложный, трудоемкий процесс, а в случае возникновения ошибки — огромная проблема. Если вы начинающий разработчик ИИ, у вас есть много вещей, которые нужно учитывать при разработке ИИ, я не разработчик ИИ, чтобы говорить вам это, но мой опыт обучения программированию заставил меня закружиться в голове. ИИ — это не отдельная концепция, а сочетание многих таких концепций, цитируемых Мэттью Н. О. Садику, написавшим статью на эту тему
<цитата>ИИ – это не отдельная технология, а набор вычислительных моделей и алгоритмов. К основным дисциплинам ИИ относятся экспертные системы, нечеткая логика, искусственные нейронные сети (ИНС), машинное обучение, глубокое обучение, обработка естественного языка, компьютерное зрение и робототехника.
Если говорить о том, что ИИ нужны данные, то чем больше данных, тем лучше. Чтобы обучить ИИ, способный давать правдоподобные результаты, модель должна обучаться в течение нескольких месяцев или лет на данных. Если ИИ был успешно обучен и имеет потенциал для бизнеса, поздравляем, у вас есть стартап, который может принести приличные деньги за усилия. ИИ для кибербезопасности, при рассмотрении методов, ссылок на различные другие возможности и т. д., требует серьезной подготовки в области знания методов и их правильного использования. К счастью, в этом случае Chat-GPT хорошо изучен. Он может правильно анализировать уязвимости и записывать полезные нагрузки и эксплойты, если используется JAILBREAK. Поскольку Chat-GPT обучен таким образом, что обладает почти всеми необходимыми знаниями в области программирования и хорошо знает почти все приемы безопасности, использовавшиеся до 2021 года, он достаточно надежен в выполнении конкретных задач. В моем случае я использовал GPT API для программирования анализатора уязвимостей, который работает как шарм.
Основные области применения ИИ в кибербезопасности:
* Автоматическая защита * Создание более сложных методов входа в систему * Защита аутентификации * Обнаружение уязвимостей безопасности * и т. д.
Основные методы, которые необходимо учитывать при разработке такого ИИ:
- Параллельный и динамический мониторинг
- Поверхностное обучение
Эффективность и ограничения этих систем
Готовая модель очень полезна, так как она может давать почти идеальные ответы и иметь много подтверждений для каждого утверждения, поскольку в ней собрано множество доказательств для каждой задачи. Информация, собранная ИИ, и все его утверждения также могут быть неверными, как видно из многих известных ИИ, которые они говорят с таким уверенным тоном, что они дали ответ или предсказание, на которое нельзя смотреть свысока, но правда будет совершенно противоположной. .
Говоря об эффективности, мы должны учитывать несколько моментов: насколько эффективен человек, выполняющий работу вместо ИИ, насколько точен ИИ и каковы накладные расходы на его выполнение. Главный вопрос в том, надежен ли он вообще. . Первые несколько просты и меняются от человека к человеку, но накладные расходы — это то, что организация будет нести за разработку, обучение, внедрение и обслуживание ИИ, чтобы быть справедливым. То же самое делается с людьми, которые выполняют ту же работу, и давайте быть честным, кто будет выполнять только одну работу, находясь в должности, мы, люди, рождаемся многозадачными, и мы можем одновременно справляться с различными работами и сложностями, в отличие от наших друзей ИИ, которые были обучены только 1 работе. Целесообразно думать о долгосрочной перспективе, а не о краткосрочной выгоде.
Это, как я уже сказал, не совсем надежная система, ни один ИИ во всем мире не разработан до сих пор, который может давать 100% точные результаты и никогда не может быть таким. Это также приводит к ограничению этой системы, которое в основном.
* Это отнимает очень много времени. Кто в здравом уме, если у них нет серьезной мотивации, ждет целыми днями вместе, чтобы обучить сверхпродвинутый ИИ? Даже ИИ для распознавания лиц начального уровня требует много времени для обучения. * Это сложно Если разработка и обучение сопоставления нескольких нейронов или узлов для развития у них небольшого интеллекта и способности решать проблемы с фрагментом кода или задачей не кажутся сложными, вы — правильный выбор для разработки ИИ. Уровень сложности, который мне, возможно, придется понимать с каждым поколением разработки, сложен для меня. * Масштабы разработанного ИИ. Если разработанный ИИ предназначен для хромой задачи, такой как игра в змею или подобные вещи для начинающих, то это большая трата времени, кроме обучения навыку. Но вместо этогоd, если это что-то, что может быть превращено в бизнес или имеет масштабы бизнеса, ИИ имеет определенную ценность,
Как использовать OpenAI API в полной мере
В API OpenAI есть восемь моделей, которые мы можем использовать. Некоторые из них используются для генерации изображений, генерации текста, преобразования текста в голос, предложений кода, а также последней версии GPT4 в качестве бета-доступа.
Мы будем использовать python, модуль python openai и модель GPT-3.5 text-DaVinci-003 для генерации текста. Текстовая модель DaVinci-003 GPT-3.5 — это лучшая текстовая модель искусственного интеллекта, которую мы можем использовать после GPT-4, которая, как говорят, заменяет 20 рабочих мест.
Во-первых, нам нужно установить модуль openAI, чтобы мы могли использовать API, Rich для терминала.
pip install openai, rich
После установки модуля давайте начнем новый проект на основе этого ИИ.
Давайте создадим чат с помощью ИИ, зададим несколько вопросов и заставим ИИ давать нам ответы. На практике это используется для написания кратких ответов на вопросы задания.
touch main.py && nano main.py
Код:
import openai
from rich import pprint
from rich import prompt as p
openai.api_key = "__API__KEY__" # enter API key
model_engine = "text-davinci-003" # GPT3 model
def main():
try:
while True:
q = p("Question")
completion = openai.Completion.create(
engine=model_engine,
prompt=q,
max_tokens=1024,
n=1,
stop=None,
)
response = completion.choices[0].text
pprint(response)
except KeyboardInterrupt:
pprint("User whats to quit")
except:
pprint("Most likely the AI has an issue")
if __name__ == "__main__":
main()
Теперь давайте обсудим код:
* Первый — это импорт всех необходимых модулей: * Модуль rich.pprint для лучшей печати * Модуль Openai для подключения ИИ * Модуль расширенных подсказок (p) для интерактивных подсказок. * Мы называем модуль rich.prompt именем p, так как термин prompt используется как в openai, так и в расширенных модулях. * Затем объявляется API, и API устанавливается для использования. Затем также устанавливается модель, чтобы API знал, с какой моделью он должен взаимодействовать. * Основная функция - это то, где все объединяется. В функции делаем следующее: * Объявите условие try-except для двух возможных ошибок: * Прерывание клавиатуры: для пользователя, чтобы остановить программу. * Ошибки, вызванные API: любые внутренние ошибки. * В блоке try мы объявим бесконечный цикл для продолжения нашего разговора. * Теперь, когда вопрос и ответ продолжаются, мы делаем следующее: * Создайте приглашение ввода для пользователя, чтобы задавать вопросы. * Создать завершение. Структура различной информации, необходимой ИИ для генерации ответа, в основном включает: * Максимальное количество жетонов модели * Подсказка * Модель, которую мы используем * Доступ к ответу API осуществляется с помощью completion.choices[0].text * Весь код можно остановить с помощью CTRL+C, а обработка исключений сделает его красивым.
Это самые основные вещи, которые вам нужно учитывать, чтобы разработать правильное приложение с использованием этого API. Я использовал ту же модель в моем инструменте GPT-Vuln_analyzer для оценки уязвимостей, и он работал хорошо, вы можете увидеть весь код на моем GitHub, ссылка указана выше. С новыми моделями в GPT4 ИИ может обрабатывать больше входных данных и выдавать больше результатов.
Не скажу, что это продвинутый пример, но этого более чем достаточно для того, чтобы человек выполнял свои задания. Расширенное использование этого ИИ выполняется, когда вам нужно выполнить более сложные задачи, а не простые задачи, такие как поиск ответов на глупые вопросы.
Может ли он заменить профессионалов?
Со 100% уверенностью могу сказать нет, по крайней мере не сейчас, может быть в отдаленном будущем. Причина Каким бы продвинутым ни был ИИ, он никогда не приблизится к интеллекту человека. Люди развивались на протяжении столетий, и наш мозг имеет больше возможностей, чем мы можем превзойти ИИ во многих отношениях, даже если это означает обман. Мы безжалостны во многих отношениях. способы. Наиболее вероятным предположением является то, что я делаю это повседневным делом, например, как второй пилот GitHub программисты используют chatGPT в своих заданиях.
Специалист по кибербезопасности не потеряет работу; это гарантия, и должен быть кто-то, кто спроектирует и структурирует инфраструктуру безопасности компании с учетом множества вещей, чтобы обеспечить максимальную безопасность и защиту.
Возможно, нейронная связь Илона Маска интегрирует плагины ChatGPT, что сделает нас единым целым с машинами. Мы не знаем, в текущем состоянии даже ИИ нуждается в том, чтобы о нем позаботились, и какое-то вмешательство человека для исправления его ошибок.
Источники
Научная работа: Искусственный интеллект в кибербезопасности
Модели OpenAI: платформа openai
Оригинал