Функция AI Recall в Windows 11 названа экспертом по безопасности «одним из самых нелепых недостатков безопасности, которые я когда-либо видел»
4 июня 2024 г.Компанию Microsoft уже критикуют за ее функцию отзыва, входящую в Windows 11 как исследователи безопасности, так и контролирующие органы конфиденциальности — и ей понадобится огнестойкий костюм для последнего яростного выступления против функции на базе ИИ.
Об этом сообщил эксперт по безопасности Кевин Бомонт, как подчеркивает Грань. На сайте отмечается, что несколько лет назад Бомонт некоторое время работал в Microsoft.
Подведем итоги — если вы как-то пропустили это — Recall — это функция искусственного интеллекта для ПК Copilot+, которая запускается позже в этом месяце и действует как фотографическая временная шкала — по сути, история всего, что вы сделали на своем компьютере, записанная с помощью сделанных снимков экрана. регулярно в фоновом режиме Windows 11.
Бомонт заставил Recall работать на обычном (не Copilot+) ПК – что можно сделать, хотя это не рекомендуется с точки зрения производительности – и возился с этим уже неделю.
Он пришел к выводу, что Microsoft совершила здесь гигантскую ошибку, по крайней мере, судя по функции, реализованной в настоящее время, и она, конечно, скоро будет выпущена. Действительно, Бомонт утверждает, что Microsoft «вероятно, собирается сжечь весь бренд Copilot из-за того, насколько плохо это было реализовано и развернуто», не меньше.
Так в чем же большая проблема? Ну, в основном, это недостаток внимания к безопасности и то, что существует серьезное несоответствие между описанием Microsoft того, как Recall, по-видимому, остается водонепроницаемым, и тем, что обнаружил Бомонт.
< div class="see-more__filter">Microsoft сообщил средствам массовой информации, что хакер не может удаленно проникнуть в деятельность Copilot+ Recall. Реальность: как вы думаете, как хакеры смогут проникнуть в эту текстовую базу данных всего, что пользователь когда-либо просматривал на своем компьютере? Очень легко, я автоматизировал это. Детектив HT pic.twitter.com/Njv2C9myxQ30 мая 2024 г.
Как вы можете видеть в приведенном выше сообщении на X (ранее Twitter), одна из главных претензий эксперта по безопасности к Microsoft заключается в том, что она сообщила средствам массовой информации, что хакер не может получить данные Copilot+ Recall удаленно. Другими словами, злоумышленнику потребуется физический доступ к устройству, лично – а это неправда.
В длинном сообщение в блоге на эту тему, Бомонт объясняет: «Это неправильно. Доступ к данным можно получить удаленно». Обратите внимание, что Recall работает полностью локально, как заявила Microsoft – просто не исключено, что невозможно получить доступ к данным удаленно, как предлагается (если, конечно, у вас есть доступ к ПК).
Как уточняет Бомонт, еще одной большой проблемой здесь является сама база данных Recall, которая содержит все данные с этих снимков экрана и историю использования вашего ПК, поскольку все это хранится в виде обычного текста (в базе данных SQLite).
Это позволяет очень легко получить всю информацию, связанную с отзывом, о том, как именно вы использовали свой компьютер с Windows 11 — при условии, что злоумышленник может получить доступ к устройству (удаленно или лично). <час>
Анализ: вспомните функцию отзыва или пожалеете об этом
Здесь также есть много других проблем. Как отметила Microsoft, когда представила Recall, нет никаких ограничений на то, что может быть записано в истории активности на вашем ПК с помощью искусственного интеллекта (за исключением некоторых небольших исключений, таких как режим приватного просмотра Microsoft Edge, но не Chrome Incognito, что характерно). ).
Например, конфиденциальная финансовая информация не будет исключена, и Бомонт далее указывает, что автоматически удаляемые сообщения в приложениях для обмена сообщениями также будут делаться скриншотами, поэтому к ним можно будет получить доступ через украденную базу данных Recall. Действительно, любое сообщение, которое вы удалите из WhatsApp, Signal или чего-либо еще, может быть прочитано через взлом Recall.
Но подождите, вы можете подумать: если хакер получил удаленный доступ к вашему компьютеру, неужели у вас все равно большие проблемы? Ну, да, это правда – не похоже, что к этим данным Recall можно получить доступ, если только ваш компьютер не подвергается активным атакам (хотя отчасти проблема Бомонта заключается в явно ошибочном заявлении Microsoft о том, что любой вид удаленного доступа к данным Recall вообще невозможен, поскольку упомянутое выше).
Самое интересное здесь то, что если кто-то получит доступ к вашему компьютеру, Recall, по-видимому, позволяет злоумышленнику очень легко получить все эти потенциально чрезвычайно конфиденциальные данные о вашей истории использования.
Хотя трояны-похитители информации уже существуют и постоянно очищают жертвы в больших масштабах, Recall может сделать этот вид сбора личных данных невероятно быстрым и простым.
В этом суть критики, как объясняет Бомонт: «Recall позволяет злоумышленникам автоматически очищать все, что вы когда-либо просматривали, за считанные секунды. Во время тестирования с помощью готового информационного вора я использовал Microsoft Defender for Endpoint, который обнаружил готового информационного вора, но к моменту начала автоматического исправления (которое заняло более десяти минут) мои данные отзыва уже давно исчезли».
Это основная причина, по которой Бомонт называет Recall «одним из самых нелепых недостатков безопасности, которые я когда-либо видел».
Если Microsoft не примет меры до его выпуска, имейте в виду – поскольку теоретически время еще есть, хотя выпуск ПК Copilot+ уже очень близко. (Тем не менее, Recall все еще можно временно кикнуть, чтобы коснуться, пока над ним продолжают работать — возможно).
Если Recall действительно будет выпущен в том виде, в каком он реализован в настоящее время, Бомонт советует отключить его: «Кроме того, чтобы быть предельно ясным, вы можете отключить это в настройках, когда он выйдет, и я настоятельно рекомендую вам это сделать, если они не переработают эту функцию и опыт».
Здесь кроется еще одна непростая проблема: функциональность искусственного интеллекта включена по умолчанию. Вызов подсвечивается во время настройки Copilot+ на ПК, и вы можете отключить его, но способ реализации этого означает, что вам нужно поставить галочку в поле, чтобы войти в настройки после настройки, а затем отключить там возврат – в противном случае это будет просто вышел на. А некоторые пользователи Windows 11, скорее всего, попадут в ловушку, не понимая, что означает флажок во время установки, и в конечном итоге просто по умолчанию будут иметь функцию «Воспоминание».
Подобная функция не должна работать таким образом – особенно с учетом проблем конфиденциальности, о которых здесь говорится – и мы уже достаточно ясно выразили свое мнение по этому поводу. Все, что имеет широкие возможности, такие как вызов, по умолчанию должно быть отключено, иначе пользователи должны иметь очень четкий выбор, представленный им во время установки. Не какие-то странные махинации типа «поставь галочку, а потом перепрыгни через это кольцо».