Salesforce публикует политику приемлемого использования искусственного интеллекта
25 августа 2023 г.В среду Salesforce опубликовала политику, регулирующую использование своих продуктов искусственного интеллекта, включая генеративный искусственный интеллект и машинное обучение. Эта политика искусственного интеллекта является интересным прецедентом, поскольку Salesforce — очень крупная организация в области платформ продаж и управления взаимоотношениями с клиентами. Кроме того, политика предлагает четкие рекомендации, а правила ИИ все еще находятся на стадии обсуждения и разработки.
Мы поговорили с исполнительным вице-президентом и генеральным директором Salesforce Industry Clouds Джуджхаром Сингхом о политике и о том, почему компаниям важно проводить этические границы в отношении своего генеративного искусственного интеллекта.
Перейти к:
- Какова политика допустимого использования искусственного интеллекта Salesforce?
Эта политика дополняет внутренние рекомендации Salesforce по генеративному искусственному интеллекту.
К каким продуктам применяется политика Salesforce в области искусственного интеллекта?
Как предприятия могут подготовиться к будущему генеративного искусственного интеллекта?
Как будет выглядеть ландшафт генеративного ИИ через шесть месяцев?
Какова политика допустимого использования искусственного интеллекта Salesforce?
Политика приемлемого использования искусственного интеллекта Salesforce определяет способы, которыми запрещено использовать продукты искусственного интеллекта. Она была опубликована 23 августа. Политика ограничивает то, для чего клиенты Salesforce могут использовать ее продукты генеративного искусственного интеллекта, включая запрет на их использование для разработки оружия, контента для взрослых, профилирования на основе защищенных характеристик (например, расы), биометрической идентификации, медицинских или юридических консультаций. , решения, которые могут иметь правовые последствия и многое другое.
Политика была написана под руководством Паулы Голдман, главного специалиста по этике и гуманному использованию в Salesforce, которая входит в состав Национального консультативного комитета США по искусственному интеллекту.
«Недостаточно предоставить технологические возможности генеративного искусственного интеллекта, мы должны уделить приоритетное внимание ответственным инновациям, чтобы помочь определить, как можно и нужно использовать эту преобразующую технологию», — написала команда Salesforce в сообщении в блоге, объявляющем о политике.
Эта политика дополняет внутренние рекомендации Salesforce по генеративному искусственному интеллекту.
У Salesforce есть общедоступный список внутренних рекомендаций по разработке генеративного искусственного интеллекта. Это может послужить примером для других компаний, разрабатывающих политику создания генеративного ИИ. Рекомендации Salesforce:
- Точность и проверяемые, прослеживаемые ответы.
Избегайте предвзятости или нарушений конфиденциальности.
Поддержите происхождение данных и включите отказ от ответственности за контент, созданный искусственным интеллектом.
Определите подходящий баланс между человеком и ИИ.
Уменьшите выбросы углекислого газа за счет выбора моделей правильного размера.
«Прозрачность — это важная часть того, как мы работаем с поколением ИИ, потому что все восходит к (концепции) доверенного ИИ», — сказал Сингх в интервью TechRepublic.
Сингх подчеркнул важность политики нулевого хранения, чтобы личная информация не использовалась для обучения модели ИИ, которая могла бы извергнуть ее где-то еще. По словам Сингха, Salesforce создает фильтры для удаления токсичного контента и постоянно их настраивает.
К каким продуктам применяется политика Salesforce в области искусственного интеллекта?
Политика применяется ко всем услугам, предлагаемым Salesforce или ее дочерними компаниями.
Под этой эгидой находятся флагманские продукты генеративного искусственного интеллекта Salesforce, которые включают в себя все, что размещено на платформе EinsteinGPT, которая представляет собой библиотеку государственных и частных моделей, включая ChatGPT, для обслуживания клиентов, CRM и других задач в различных отраслях. Его конкурентами являются ChatSpot.AI от Hubspot и Microsoft Copilot.
Как предприятия могут подготовиться к будущему генеративного искусственного интеллекта?
«Технические лидеры должны серьезно подумать о том, что им необходимо резко повысить квалификацию своих сотрудников в области ген (генеративного) искусственного интеллекта», — сказал Сингх. «На самом деле, 60% людей, которым задали этот вопрос, чувствовали, что у них нет необходимых навыков, но они также считали, что их работодателям действительно необходимо предоставить эти навыки».
В частности, по его словам, такие навыки, как быстрое проектирование, будут иметь решающее значение для процветания в меняющемся деловом мире.
СМОТРИТЕ: наймите подходящего инженера, следуя этим рекомендациям. (Техреспублик Премиум)
Что касается инфраструктуры, он подчеркнул, что компаниям необходимо иметь прочную основу доверия, чтобы гарантировать, что ИИ выполняет поставленные задачи и создает точный контент.
Как будет выглядеть ландшафт генеративного ИИ через шесть месяцев?
Сингх сказал, что может существовать разрыв между отраслями с более строгим или более слабым нормативным надзором за искусственным интеллектом.
«Я думаю, что отрасли, которые более регулируемы, в ближайшие шесть месяцев будут использовать более человечный подход», — сказал он. «Когда мы войдем в другие отрасли, они будут гораздо более агрессивно внедрять ИИ. Помощники, работающие от вашего имени, будут гораздо более распространены в этих отраслях».
Кроме того, отраслевые программы LLM «очень скоро станут очень, очень актуальными», сказал он.
Оригинал