Microsoft увольняет команду, отвечающую за этику ИИ
15 марта 2023 г.Microsoft уволила всю свою команду по вопросам этики и общества в свою ИИ в рамках более масштабных увольнений в компании в целом.
Технологический гигант теперь остался без команды, которая обеспечивает соответствие дизайна продукта ИИ ценностям ответственного ИИ, и именно тогда редмондский гигант мобилизует технологию в все возможные продукты и услуги.< /p>
До сих пор существует Управление ответственного ИИ (ORA), которое компания claims "применяет принципы Microsoft на практике, устанавливая общекорпоративные правила для ответственного ИИ посредством реализации нашего управления и государственной политики. работа."
Внутренний конфликт
Microsoft также утверждает, что, несмотря на ликвидацию команды, инвестиции в ответственную разработку ИИ на самом деле растут.
«За последние шесть лет мы увеличили количество людей в наших продуктовых командах и в Управлении ответственного ИИ. Мы ценим новаторскую работу, которую проделала команда по этике и обществу, чтобы помочь нам в нашем ответственном путешествии по ИИ», — говорится в сообщении компании.
Сотрудники, с другой стороны, сказали, что команда по этике и обществу играет решающую роль в обеспечении того, чтобы продукты искусственного интеллекта, которые они на самом деле разрабатывали, были внедрены в принципы ответственности, которых придерживается компания.
Бывший сотрудник прокомментировал, как команда разобралась в принципах, вытекающих из ORA, для дизайнеров продуктов, сказав: «Наша задача состояла в том, чтобы показать им [как они применяются] и создать правила в тех областях, где их не было».
Команда также разработала набор инструментов, который поможет разработчикам продуктов узнать об этих принципах и осознать потенциальный вред при создании инструментов ИИ. Команда работала над выявлением рисков внедрения технологии OpenAI в продукты Microsoft, поскольку хорошо.
В 2020 году в команде по этике и обществу было 30 членов, а в октябре прошлого года это число было сокращено до семи в рамках реорганизации.
Новостной сайт Силиконовой долины Платформер утверждает, что получил утекшее аудио< /a> встреч, которые последовали за этой реорганизацией, подчеркнув конфликт между командой и Джоном Монтгомери, корпоративным вице-президентом по искусственному интеллекту в Microsoft.
Монтгомери рассказал об огромном давлении со стороны руководства Microsoft, которое требовало моделей искусственного интеллекта и «передавать их в руки клиентов с очень высокой скоростью». к другим сферам деятельности компании.
В ответ один из членов команды высказал возражения, заявив, что «эта команда всегда была глубоко обеспокоена тем, как мы влияем на общество и негативными последствиями, которые мы имели. И они значительны».
Еще одна встреча в начале этого месяца подтвердила, что оставшиеся члены команды также будут распущены, что полностью устранит ее.
С тех пор другой сотрудник сетовал на увольнения, полагая, что спешка с внедрением ИИ в бизнес без надлежащего надзора и размышлений об этических последствиях ИИ: «Хуже всего то, что мы разоблачили бизнес. рисковать, и люди рискуют при этом».
- Вот лучшие авторы ИИ
Оригинал