Edge AI: внутренности, варианты использования, преимущества и барьеры
22 ноября 2022 г.Недавние исследования показывают, что количество устройств Интернета вещей, используемых во всем мире, превысит 38 миллиардов< /a> к 2025 году. Резкий скачок неизбежно повлияет на степень внедрения ИИ, поскольку обе концепции — Интернет вещей и искусственный интеллект — всегда шли рука об руку.
С золотым стандартом разработки систем Интернета вещей, облачным подходом, который постепенно выходит из моды, ИИ также начнет приближаться к периферии. Причины перехода к периферии различаются, но наиболее заметными из них являются высокая задержка и высокая стоимость облачных вычислений. Это особенно актуально для крупномасштабных систем Интернета вещей.
Тем не менее, в то время как поставщики программного обеспечения для искусственного интеллекта расширяют свои предложения за счет разработки периферийных систем ИИ, предприятия задаются вопросом: что такое периферийный ИИ? как именно это работает внутри, и каковы общие варианты использования периферийного ИИ для разработки? Если вы задаете себе такие вопросы, продолжайте читать. В приведенной ниже части мы освещаем внутренности, варианты использования, преимущества и ограничения периферийного ИИ.
Что такое периферийный ИИ и чем он отличается от облачного ИИ?
Стандартную архитектуру Интернета вещей можно условно разделить на три компонента: вещи, шлюзы и облако. Вещи означают всевозможные инструменты, гаджеты и оборудование, оснащенные датчиками, генерирующими данные. Шлюзы — это централизованные устройства, скажем, маршрутизаторы, которые соединяют вещи с облаком. Вместе конечные устройства и шлюзы составляют пограничный уровень.
Пограничный ИИ, в свою очередь, означает развертывание алгоритмов ИИ ближе к границе сети, то есть либо к подключенным устройствам (конечным узлам), либо к шлюзам (пограничным узлам).
В отличие от облачного подхода, при котором алгоритмы ИИ разрабатываются и развертываются в облаке, периферийные системы ИИ принимают решения за миллисекунды и работают с меньшими затратами.
К другим преимуществам периферийного ИИ по сравнению с облачными решениями ИИ относятся:
- Меньшее время обработки: поскольку данные анализируются локально, нет необходимости отправлять запросы в облако и ждать ответов, что крайне важно для критичных ко времени приложений, таких как медицинские устройства или системы помощи водителю
- Сниженная пропускная способность и затраты: поскольку нет необходимости отправлять большие объемы данных с датчиков в облако, периферийным системам искусственного интеллекта требуется более низкая пропускная способность (используется в основном для передачи метаданных), следовательно, меньше эксплуатационные расходы
- Повышенная безопасность: локальная обработка данных помогает снизить риск компрометации конфиденциальной информации в облаке или при передаче.
- Более высокая надежность: пограничный ИИ продолжает работать даже в случае сбоев в работе сети или временной недоступности облачных сервисов
- Оптимизированное энергопотребление: локальная обработка данных обычно требует меньше энергии, чем отправка сгенерированных данных в облако, что помогает продлить срок службы батареи конечных устройств.
По данным Markets and Markets, ожидается, что объем мирового рынка ПО для периферийного ИИ к 2026 году достичь 1,8 млрд долл. США, среднегодовой темп роста составит 20,8 %. Ожидается, что различные факторы, такие как увеличение корпоративных рабочих нагрузок в облаке и быстрый рост числа интеллектуальных приложений, будут способствовать внедрению периферийных решений искусственного интеллекта.
Как работает периферийный искусственный интеллект
Несмотря на распространенное заблуждение, стандартное ИИ-решение, ориентированное на периферию, обычно развертывается гибридным образом: периферийные устройства принимают решения на основе потоковых данных и центра обработки данных. (обычно облачная), используемая для проверки и переобучения развернутых моделей ИИ.
Итак, базовая архитектура периферийного ИИ обычно выглядит следующим образом:
Чтобы периферийные системы искусственного интеллекта могли понимать человеческую речь, управлять транспортными средствами и выполнять другие нетривиальные задачи, им необходим интеллект, подобный человеческому. В этих системах человеческое познание воспроизводится с помощью алгоритмов глубокого обучения — подмножества ИИ.
Процесс обучения моделей глубокого обучения часто выполняется в облаке, поскольку для достижения более высокой точности требуются огромные объемы данных и большая вычислительная мощность. После обучения модели глубокого обучения развертываются на конечном или пограничном устройстве, где теперь они работают автономно.
Если модель сталкивается с проблемой, обратная связь отправляется в облако, где начинается переобучение до тех пор, пока модель на периферии не будет заменена новой, более точной. Этот цикл обратной связи позволяет поддерживать точность и эффективность граничного решения ИИ.
Краткий обзор аппаратных и программных технологий, обеспечивающих периферийный ИИ
Для стандартной реализации периферийного ИИ требуются аппаратные и программные компоненты.
В зависимости от конкретного пограничного приложения искусственного интеллекта может быть несколько вариантов оборудования для обработки пограничного искусственного интеллекта. К наиболее распространенным относятся процессоры, графические процессоры, специализированные интегральные схемы (ASIC) и программируемые вентильные матрицы (FPGA).
ASIC обеспечивают высокую вычислительную мощность при низком энергопотреблении, что делает их подходящими для широкого спектра периферийных приложений искусственного интеллекта.
Графические процессоры, в свою очередь, могут быть весьма дорогостоящими, особенно когда речь идет о поддержке крупномасштабного периферийного решения. Тем не менее, они являются оптимальным вариантом для ситуаций, в которых важна задержка и требуется молниеносная обработка данных, например в беспилотных автомобилях или передовых системах помощи водителю.
ПЛИС обеспечивают еще большую вычислительную мощность, энергоэффективность и гибкость. Ключевое преимущество ПЛИС в том, что они программируемые, то есть аппаратное обеспечение «следует» за программными инструкциями. Это обеспечивает большую экономию энергии и реконфигурируемость, поскольку можно просто изменить характер потока данных в аппаратном обеспечении, в отличие от жестко запрограммированных ASIC, ЦП и графических процессоров.
В целом, выбирая оптимальный аппаратный вариант для периферийного ИИ-решения, следует учитывать сочетание факторов, включая реконфигурируемость, энергопотребление, размер, скорость обработки и стоимость. Вот как сравниваются популярные варианты оборудования по заявленным критериям:
В свою очередь, программное обеспечение ИИ для периферийных устройств включает в себя полный набор технологий, обеспечивающих процесс глубокого обучения и позволяющий алгоритмам ИИ работать на периферийных устройствах. Периферийная программная инфраструктура ИИ охватывает хранилище, управление данными, анализ данных/вывод ИИ и сетевые компоненты.
Случаи использования пограничного ИИ
Компании из разных секторов уже получают выгоду от периферийного ИИ. Вот краткое изложение наиболее известных примеров использования периферийного ИИ в разных отраслях.
Розничная торговля: повышение покупательского опыта
Позитивное впечатление от покупок — главная забота розничных продавцов, поскольку именно от него зависит удержание клиентов. С помощью аналитики на основе искусственного интеллекта розничные продавцы могут поддерживать удовлетворенность потребителей, гарантируя, что они станут постоянными покупателями.
Одно из многих периферийных приложений ИИ, помогающих сотрудникам розничной торговли в их повседневных операциях и улучшающих качество обслуживания клиентов, – это использование периферийных устройств. ИИ для определения необходимости пополнения и замены продуктов.
Другое периферийное приложение ИИ — это использующие решения компьютерного зрения в умные кассовые системы, которые могли бы в конечном итоге избавить покупателей от необходимости сканировать свои товары на прилавке.
Ритейлеры также используют интеллектуальную видеоаналитику, чтобы анализировать предпочтения покупателей и соответствующим образом улучшать планировку магазинов.
Производство: внедрение умной фабрики
Производственные предприятия, особенно занимающиеся прецизионным производством, должны обеспечивать точность и безопасность производственного процесса. усовершенствуя производственные площадки с помощью ИИ, производители могут обеспечить безопасность и эффективность цеха. . Для этого они используют ИИ-приложения, которые проводят инспекции в цехах, как те, которые использует Procter & Азартные игры и BMW.
Проктер энд амп; Gamble использует передовое решение на основе искусственного интеллекта, которое использует кадры с инспекционных камер для проверки резервуаров для химических смесей. Чтобы продукты с дефектами не попали в производственный конвейер, периферийное решение на основе искусственного интеллекта, развернутое прямо на камерах, выявляет дефекты и уведомляет руководителей цехов о замеченных отклонениях в качестве.
BMW использует комбинацию периферийных вычислений и искусственного интеллекта, чтобы получить представление о заводском цехе в режиме реального времени. Предприятие получает четкое представление о своей сборочной линии с помощью интеллектуальных камер, установленных по всему производственному объекту.
Автомобилестроение: использование автономных автомобилей
Автономные автомобили и передовые системы помощи водителю полагаются на периферийный искусственный интеллект для повышения безопасности, повышения эффективности и снижения риска несчастных случаев.
Автономные автомобили оснащены различными датчиками, которые собирают информацию о дорожных условиях, местонахождении пешеходов, уровне освещенности, условиях вождения, объектах вокруг автомобиля и других факторах. Из соображений безопасности эти большие объемы данных необходимо обрабатывать быстро. Пограничный ИИ решает чувствительные к задержкам задачи мониторинга, такие как обнаружение объектов, отслеживание объектов и определение местоположения.
Безопасность: распознавание лиц
Одной из областей, в которой все чаще используются периферийные устройства, является распознавание лиц.< /p>
Для приложений безопасности с функциями распознавания лиц, например системы безопасности умного дома, время отклика имеет решающее значение. В традиционных облачных системах видеозаписи с камер постоянно перемещаются по сети, что влияет на скорость обработки решения и эксплуатационные расходы.
Более эффективный подход – обработка видеоданных непосредственно с камер наблюдения. Поскольку для передачи данных в облако не требуется время, приложение может быть более надежным и быстрым.
Бытовая электроника: новые возможности мобильных устройств
Мобильные устройства генерируют много данных. Обработка этих данных в облаке сопряжена с рядом проблем, таких как высокая задержка и использование полосы пропускания. Чтобы решить эти проблемы, разработчики мобильных устройств начали использовать периферийный искусственный интеллект, чтобы обрабатывать сгенерированные данные с большей скоростью и меньшими затратами.
Мобильные варианты использования с периферийным искусственным интеллектом включают распознавание речи и лиц, обнаружение движения и падений и многое другое.
Однако общий подход по-прежнему является гибридным. Данные, требующие большего объема памяти или высоких вычислительных мощностей, отправляются в облако или слой тумана, а данные, которые можно интерпретировать локально, остаются на периферии.
Препятствия на пути внедрения ИИ
Ограниченная вычислительная мощность
Алгоритмы обучения ИИ требуют достаточных вычислительных мощностей, которые практически недостижимы на периферии. Таким образом, большинство периферийных приложений по-прежнему содержат облачную часть, где обучаются и обновляются алгоритмы ИИ.
Если вы склоняетесь к созданию ориентированного на периферию приложения, которое меньше зависит от облака, вам необходимо подумать о способах оптимизации хранения данных на устройстве (например, оставлять только кадры с изображением лица в приложениях для распознавания лиц) и Процесс обучения ИИ.
Уязвимости безопасности
Несмотря на то, что децентрализованный характер граничных приложений и отсутствие необходимости передачи данных по сети повышает безопасность ориентированных на периферию приложений, конечные узлы по-прежнему подвержены кибератакам. Таким образом, необходимы дополнительные меры безопасности для противодействия угрозам безопасности. доступ и подделка со стороны преступников. Заблокировав их и рассматривая как ключевой ресурс, вы сможете предотвратить проблемы с безопасностью, связанные с периферией.
Потеря данных
Сама природа периферии подразумевает, что данные могут не попасть в облако для хранения. Конечные устройства могут быть настроены на отбрасывание сгенерированных данных, чтобы сократить эксплуатационные расходы или повысить производительность системы. Хотя облачные настройки имеют немало ограничений, главное их преимущество заключается в том, что все — или почти все — сгенерированные данные сохраняются, а значит, их можно использовать для сбора информации.
Если хранение данных необходимо для конкретного варианта использования, мы рекомендуем использовать гибрид и использовать облако для хранения и анализа данных об использовании и других статистических данных, точно так же, как мы это делали при разработке умное фитнес-зеркало для наших клиентов.
<цитата>Если у вас остались вопросы о периферийном ИИ без ответа или вы ищете надежного партнера для внедрения периферийного приложения ИИ, напишите ITRex. а>. Наши специалисты с радостью вам помогут.
Оригинал