Microsoft больше не хочет, чтобы ИИ распознавал ваши эмоции — в основном
25 июня 2022 г.Microsoft обновляет свой стандарт ответственного ИИ и сообщает, что он' Отказ от использования возможностей Azure Face по распознаванию эмоций и лиц (по большей части).
< u>Стандарт ответственного ИИ — это внутренний набор правил Microsoft, когда речь идет о создании систем ИИ. Компания хочет, чтобы ИИ был позитивной силой в мире и никогда не использовался злоумышленниками. Это стандарт, о котором раньше никто не сообщал общественности. Однако с этим новым изменением Microsoft решила, что сейчас самое время.
Программное обеспечение для распознавания эмоций и лиц, мягко говоря, вызывает споры. Есть несколько организаций, призывающих запретить эту технологию. Борьба за будущее< u>, например, еще в мае написал открытое письмо, в котором просил Zoom прекратить собственную разработку программного обеспечения для отслеживания эмоций и назвал его «инвазивным» и «нарушением конфиденциальности и прав человека».
Изменение политики
Как сообщается, Microsoft переработает свою службу Azure Face, чтобы она соответствовала требованиям своего нового стандарта ответственного ИИ. Во-первых, компания закрывает публичный доступ к возможности сканирования эмоций ИИ. Во-вторых, Azure Face больше не сможет определять характеристики лица человека, включая «пол, возраст, улыбку, растительность на лице, прическу и макияж».
Причина выхода на пенсию заключается в том, что у мирового научного сообщества до сих пор нет четкого «консенсуса по определению «эмоций»». Наташа Крэмпшн, главный ответственный за искусственный интеллект в Microsoft, сказала, что эксперты внутри и за пределами компании выразили свою озабоченность. Проблема заключается в «проблемах обобщения выводов по вариантам использования, регионам и демографии, а также в повышенных опасениях по поводу конфиденциальности…»
В дополнение к Azure Face аналогичные ограничения будут наложены на Custom Neural Voice от Microsoft. Custom Neural Voice – это приложение для преобразования текста в речь, которое невероятно реалистично. Теперь услуга будет доступна только нескольким избранным «управляемым клиентам и партнерам», то есть людям, которые работают непосредственно с отделами по работе с клиентами Microsoft. Компания заявляет, что, хотя технология имеет большой потенциал, ее можно использовать для выдачи себя за другое лицо. Чтобы сохранить доступ к Neural Voice, все существующие клиенты должны отправить форму приема и получить одобрение Microsoft. Они должны быть одобрены до 30 июня 2023 г., и если они не будут выбраны, эти клиенты больше не будут иметь доступа к Neural Voice.
Все еще в разработке
Несмотря на все сказанное, Microsoft не отказывается полностью от своей технологии распознавания лиц. Объявление относится только к публичному доступу. Сара Берд, главный руководитель проекта группы в Azure AI, написал об ответственном распознавании лиц. И в этом посте она заявляет: «Microsoft признает, что эти возможности могут быть полезны при использовании для набора сценариев контролируемой доступности». Один из этих сценариев, по словам представителя, — это наблюдение за ИИ , т. е. приложение для iOS, которое помогает слабовидящим идентифицировать людей и предметы вокруг них.
Приятно видеть, что еще один технологический гигант признает проблемы с распознаванием лиц и возможность злоупотреблений. IBM сделала нечто подобное еще в 2020 году, хотя ее подход был более абсолютным.
Еще в 2020 году IBM объявила об отказе от работать над распознаванием лиц, потому что компания боялась, что это может быть использовано для массовой слежки. Видеть, как эти два титана индустрии избавляются от этой технологии, — победа критиков против распознавания лиц. Если вам интересно узнать больше об ИИ, TechRadar недавно опубликовал статью о том, что он может сделать для кибербезопасность.
Оригинал