- Инженер по безопасности Amazon взломал кучу периферийных устройств с помощью искусственного интеллекта.
- Клод Опус проделал большую часть работы по установке модифицированной прошивки на веб-камеру, микрофон и многое другое.
- Относительная легкость, с которой искусственный интеллект допускает подобные модификации, указывает на тревожное будущее, когда периферийные устройства будут подвергаться риску в более широком масштабе.
В качестве еще одного примера того, как ИИ может оказаться угрозой для наших устройств, инженер по безопасности Amazon продемонстрировал, насколько мощным является Claude Opus, когда дело доходит до реверс-инжиниринга. Периферийное оборудование для ПК.
Чаз Шларп, старший инженер по безопасности в Amazon, написал запись в блоге об экспериментах, которые он проводил с набором периферийных устройств, таких как веб-камера и микрофон.
Он хотел выяснить, насколько легко можно было модифицировать прошивку и выполнять некоторые полезные трюки с этими устройствами с помощью ИИ, но здесь явно есть и темная сторона — а именно, что тот же доступ может быть использован злоумышленником для компрометации вашей системы через эти гаджеты.
Шларп использовал Claude Opus 5, чтобы разобраться с прошивкой для веб-камеры Insta360, микрофона Shure, монитора Asus, палки для видеозахвата Elgato и мини-подсветки Elgato (компактного устройства для освещение потокового видео).
Шларп объясняет: «Мой процесс был практически одинаковым для каждого из этих устройств: взять копию прошивки устройства и связанного с ней инструмента обновления от производителя, добавить ее в свою среду обратного проектирования, сообщить Claude Opus 5, каковы мои цели, и позволить ей работать».
Инженеру по безопасности стало совершенно ясно, что на этих устройствах отсутствует какая-либо достойная защита целостности прошивки, позволяющая предотвратить изменение и применение новой прошивки. Только свет Эльгато имел какую-либо защиту в этом отношении, и ее было достаточно легко обойти.
Шларп объясняет трюк со своим монитором Asus ROG Swift PG42UQ, чтобы продемонстрировать, какую полезную утилиту можно предложить при таком моддинге прошивки. Он обнаружил, что можно удалить раздражающее всплывающее предупреждение, которое периодически предлагает владельцу запустить процесс «очистки пикселей» (хотя инженер еще не внес это исправление в прошивку). Он также нашел способ запустить функции DisplayWidget (утилита Windows) в своей системе Linux с помощью сценария оболочки, который может пролистывать определенные функции, такие как аппаратное перекрестие или счетчик FPS (который можно настроить с помощью горячих клавиш).
Однако большая часть того, что он сделал, заключалась в том, чтобы доказать, насколько относительно легко было взломать прошивку, используя ИИ для выполнения тяжелой работы, и, например, отключить индикатор записи веб-камеры (в стиле вредоносного ПО для наблюдения, чтобы пользователь не знал, ведет ли камера тайную запись). Он проделал аналогичный трюк с микрофоном, так что светодиод отключения звука мог гореть, хотя микрофон на самом деле не был отключен (это было реализовано с помощью «командной оболочки с полным открытым текстом»).
Шларп заметил: «Периферийные устройства оказались идеальной целью для агентского RE [обратного проектирования] — это крошечные компьютеры, подключенные к моему компьютеру, с подключением к компьютеру для передачи данных и обычно с механизмом обновления прошивки, поэтому агенту есть с чем работать. Конечным результатом является лучший контроль и понимание моей машины». class="van-image-figure inline-layout" data-bordeaux-image-check >
Ключевым моментом здесь является то, насколько легко Клод Опус справился с этой задачей. «Владение» всеми пятью этими периферийными устройствами сводилось к 13 часам, когда ИИ мчался своим ходом, получив всего лишь 100 подсказок от своего человека-надзирателя.
Шларп отмечает, что: «Аппаратное обеспечение почти всегда «открыто» для работы на этом этапе, требуя всего лишь пару часов ручной работы, управляемой машиной, и я с нетерпением жду ближайшего будущего, когда я смогу добавлять функции к прошивке моей веб-камеры так же легко, как и к программному обеспечению, которое работает на моей машине с Linux».
Однако, как уже упоминалось, у всего этого есть и обратная сторона, как поясняет Шларп: «С другой стороны, как профессионала в области безопасности, это пугает меня по нескольким причинам. Я бы исходил из рабочего предположения, что в любое устройство, подключенное к компьютеру, могла быть внедрена вредоносная прошивка, тогда как раньше это требовало значительных инвестиций в каждую модель и стереотипно воспринималось как деятельность «государственного субъекта».
Другими словами, основная трудность при реализации такого рода эксплойтов заключается в требуемых трудозатратах и времени, что в настоящее время ограничивает их индивидуальными целенаправленными атаками на более важные цели. Однако теперь, когда ИИ-агент способен выполнять тяжелую работу, имеет смысл, что со временем такого рода атаки могут стать гораздо более распространенными.
Это означает, что все периферийные устройства, подключенные к вашему компьютеру, могут быть использованы для компрометации вас или вашей системы в будущем. Шларп сообщает нам, что ему также удалось получить root-оболочку на коммерческом дисплее Dell, добавив: «Очевидно, что никогда не было лучшей практикой позволять ненадежным клиентам прикасаться к этим вещам, но скорость и масштаб, с которыми это может быть выполнено, делают риск сейчас намного выше».
Здесь также есть потенциально более серьезная угроза: червь на базе искусственного интеллекта, который автоматически выполняет такого рода реверс-инжиниринг. Шларп объясняет: «Это всего лишь небольшой шаг, чтобы представить, что кто-то может создать самовоспроизводящуюся вредоносную программу, которая исследует свою среду, передавая разведывательные данные обратно в интеллектуальную систему управления и контроля, которая активно работает, чтобы проникнуть в аксессуары, устройства IoT и промышленное оборудование, обнаруженное рядом с зараженной целью».
Существует много опасений по поводу того, куда нас может вести ИИ, и в будущем нас ждут гораздо более опасные угрозы безопасности (или даже настоящее) — еще одна неудачная перспектива, если не сказать больше.