Ваше антивирусное программное обеспечение получит значительный импульс от этого нового хакерского соревнования
10 августа 2023 г.Информационная безопасность является одной из наиболее важных задач, стоящих перед компаниями, правительствами и даже простыми пользователями Интернета, поскольку кибератаки становятся все более изощренными с каждым днем. Тем не менее, новая инициатива администрации Байдена может просто вывести кибербезопасность на новый уровень — благодаря искусственному интеллекту и здоровой дозе конкурентного хакерства.
Программа представляет собой двухлетнее соревнование под названием «AI Cyber Challenge» (AIxCC), целью которого является использование искусственного интеллекта для защиты наиболее важного программного обеспечения страны.
«Президент Байден выразился ясно, — заявил на брифинге для прессы Арати Прабхакар, директор Управления по науке и технологической политике Белого дома. «Искусственный интеллект — самая мощная технология нашего времени, и мы должны сделать ее правильной для американского народа».
Возглавляемый Агентством перспективных оборонных исследовательских проектов (DARPA), конкурс, объявленный сегодня в преддверии Def Con 31 в Лас-Вегасе, который стартует 10 августа и продлится до 13 августа, призывает участников по всей стране выявлять и исправлять программное обеспечение. уязвимости с помощью мощных моделей больших языков (LLM), которые поддерживают OpenAI ChatGPT и Google Bard AI.
«Этот конкурс станет громким призывом ко всем творческим людям в организациях повысить безопасность критически важного программного обеспечения, на которое полагаются американские семьи и предприятия, а также все наше общество», — сказал Прабхакар.
К этой инициативе присоединились хорошо зарекомендовавшие себя гиганты искусственного интеллекта, такие как Anthropic, Google, Microsoft и OpenAI, которые поделятся своим опытом и доступом к передовому оборудованию искусственного интеллекта для конкурентов. Этот конкурс с призовым фондом около 20 миллионов долларов направлен на создание новых решений для укрепления компьютерного кода, который обеспечивает большую часть нашей современной цифровой инфраструктуры.
«Не существует волшебного рецепта, который обезопасит нацию одним выстрелом», — сказала Энн Нойбергер, заместитель советника по национальной безопасности по кибербезопасности и новым технологиям. «Наоборот, оборона всегда должна быть на шаг впереди. Мы видим перспективы ИИ в том, что оборона может быть на шаг впереди».
Как будет проходить конкурс
Инициатива AIxCC предназначена для поиска и устранения уязвимостей программного обеспечения в критической национальной инфраструктуре, такой как электрические сети, транспортные сети, системы коммунального обслуживания и здравоохранения, и конкурс обещает многомиллионные вознаграждения за наиболее эффективные решения для обеспечения безопасности программного обеспечения с использованием передовых технологий искусственного интеллекта. .
Весной 2024 года в конкурсе будет проведен предварительный раунд, после которого 20 лучших команд пройдут в полуфинал DEF CON 2024. Затем пять лучших из этого полуфинала перейдут в финал DEF CON 2025, а три лучших команды получат значительные денежные вознаграждения.
Фонд безопасности с открытым исходным кодом (OpenSSF) будет доступен для консультирования участников конкурса, чья роль включает в себя обеспечение быстрого применения выигрышных программных кодов для защиты критически важной американской программной инфраструктуры.
Улучшения безопасности ИИ быстро появятся на всех компьютерах, но это не гарантированное решение
Хотя в настоящее время в центре внимания соревнования находятся очень большие, связанные с национальной безопасностью сети и программные системы (в конце концов, именно поэтому DARPA участвует), это не означает, что преимущества этого соревнования будут ограничены лучшей защитой для больниц и военный.
Точно так же, как Интернет, еще одна инициатива, поддерживаемая DARPA, изначально был разработан, чтобы помочь университетам легче обмениваться исследованиями, но затем непреднамеренно превратился во всеобъемлющую систему, которую мы все используем сегодня, работа конкурентов AIxCC по защите критически важной сетевой инфраструктуры от атак быстро исчезнет. пробиться через всю экосистему информационной безопасности. Это, в свою очередь, сделает лучшими VPN и лучшее антивирусное программное обеспечение еще более эффективно против новых угроз, многие из которых будут использовать ИИ для поиска уязвимостей, которые можно использовать.
Учитывая многоэтапный и многолетний характер соревнования, мы должны ожидать, что преимущества новых открытий в области ИИ будут довольно быстро доходить до широкой публики, хотя это не произойдет в одночасье.
Более того, большинство сбоев в кибербезопасности происходят не из-за так называемых эксплойтов нулевого дня, которые представляют собой недавно обнаруженные уязвимости, о существовании которых мы не знали, пока кто-то не использовал их для атаки на сеть или компьютер. Чаще всего пользователи не используют уже существующие исправления известных проблем и тем самым делают себя уязвимыми для атак. В этих случаях весь ИИ в мире не сможет вам помочь, если вы нажмете на ссылки в электронных письмах, на которые вы не должны нажимать.
Тем не менее, улучшенная безопасность — это всегда хорошо, и если новые модели ИИ могут помочь нам в этом, то это определенно повод для радости.
Оригинал