Google предлагает вашему малому и среднему бизнесу бесплатные инструменты модерации для борьбы с терроризмом
5 января 2023 г.Согласно отчету Financial Times , Google работает над инструментом, который поможет модерировать экстремистские материалы для небольших компаний, таких как стартапы, у которых может не быть ресурсов для этого.
Внутренний проект, над которым работает подразделение Google Jigsaw, которому поручено бороться с угрозами открытому обществу, был разработан совместно с поддерживаемой ООН организацией Tech Against Terrorism.
Google заявляет, что инициатива разработан, чтобы помочь модераторам обнаруживать и удалять с веб-сайта потенциально незаконный контент, в том числе расистские и другие ненавистнические комментарии.
Антитерроризм Google
Этот проект стал возможен благодаря базе данных террористических объектов, предоставленной Глобальным интернет-форумом, основанным группой технологических гигантов, включая Google, Meta, Microsoft и Twitter.
Это так. разработан специально для поддержки небольших компаний, которые не могут позволить себе ресурсы, необходимые для эффективной модерации, будь то большие группы сотрудников или дорогостоящие инструменты ИИ.
Этот инструмент, как ожидается, будет ценным во времена, когда экстремисты, были запрещены в крупных сетях, выбирают более мелкие платформы для выражения своих взглядов. Это также служит защитной мерой для компаний, реагирующих на Закон ЕС о цифровых услугах и предстоящий законопроект Великобритании о безопасности в Интернете, который налагает штрафы на компании, которые не удаляют такой контент.
Похоже, что на данный момент он будет работать по принципу согласия, а это означает, что компании, чье основное намерение состоит в том, чтобы хранить такие сообщения, будут продолжать делать это даже перед лицом потенциальных штрафов.
Считается, что две (неназванные) компании будут тестировать код позже в этом году, что указывает на то, что до полного развертывания еще далеко.
В другом месте Meta выпустила свой собственный инструмент, который вызывает Hasher-Matcher-Actioner (HMA). Как и проект Jigsaw, он был разработан для предотвращения распространения ненавистнического контента и основан на существующих на платформе инструментах модерации видео- и фотоконтента.