Федеральная комиссия по связи хочет, чтобы звонящий вам голос искусственного интеллекта сказал, что это дипфейк
11 августа 2024 г.ИИ может достаточно хорошо имитировать человеческий голос, чтобы дипфейки могли обмануть многих людей, заставив их думать, что они слышат речь человека. Неизбежно, голоса ИИ использовались для автоматизированных телефонных звонков. Федеральная комиссия по связи США (FCC) пытается бороться с более вредоносными версиями этих попыток и выдвинула предложение, направленное на усиление защиты потребителей от нежелательных и незаконных роботизированных звонков, генерируемых ИИ.
План FCC поможет определить звонки, генерируемые ИИ, а также текстовые сообщения, что позволит комиссии затем установить границы и правила, например, обязать голоса ИИ раскрывать, что они поддельные, при звонке.
Полезность ИИ в не совсем приятных коммуникациях и действиях делает неудивительным, что FCC стремится установить для них правила. Это также часть усилий FCC по борьбе с роботизированными звонками как с помехами и способом совершения мошенничества. ИИ затрудняет обнаружение и предотвращение этих схем, что побудило к предложению, которое потребовало бы раскрытия голосов и слов, сгенерированных ИИ. Звонок должен был бы начинаться с объяснения ИИ искусственного происхождения как того, что он говорит, так и голоса, который использовался для этого. Любая группа, не сделавшая этого, была бы оштрафована на большой размер.
Новый план дополняет Декларативное постановление Федеральной комиссии по связи США (FCC), принятое в начале этого года, в котором говорилось, что технология клонирования голоса в автоматических звонках является незаконной без согласия вызываемого лица. Это стало результатом преднамеренной путаницы, созданной клоном голоса президента Джо Байдена в сочетании с подменой идентификатора вызывающего абонента для распространения вводящей в заблуждение информации среди избирателей Нью-Гемпшира перед первичными выборами в январе 2024 года.
Обращение к ИИ за помощью
Помимо отслеживания источников звонков с использованием ИИ, FCC заявила, что также хочет внедрить инструменты для оповещения людей о том, что они получают звонки и текстовые сообщения, сгенерированные ИИ, особенно нежелательные или незаконные. Это может включать в себя улучшение фильтров вызовов, предотвращающих их возникновение, алгоритмы обнаружения на основе ИИ или улучшение идентификатора вызывающего абонента для идентификации и пометки звонков, сгенерированных ИИ. Для потребителей предлагаемые FCC правила предлагают долгожданный уровень защиты от все более изощренных тактик, используемых мошенниками. Требуя прозрачности и улучшая инструменты обнаружения, FCC стремится снизить риск того, что потребители станут жертвами мошенничества, созданного с помощью ИИ.
Синтетические голоса, созданные с помощью ИИ, также использовались для многих позитивных усилий. Например, они могут дать людям, потерявшим голос, возможность снова говорить и открыть новые возможности для общения между людьми с нарушениями зрения. FCC признала это в своем предложении, даже несмотря на то, что она борется с негативным влиянием, которое могут оказать инструменты.
«Столкнувшись с растущей волной дезинформации, примерно три четверти американцев говорят, что они обеспокоены вводящим в заблуждение контентом, создаваемым ИИ. Вот почему Федеральная комиссия по связи сосредоточила свою работу на ИИ, основываясь на ключевом принципе демократии — прозрачности», — заявила председатель FCC Джессика Розенворсель в своем заявлении. «Опасения по поводу этих технологических разработок реальны. И это справедливо. Но если мы сосредоточимся на прозрачности и примем быстрые меры при обнаружении мошенничества, я считаю, что мы сможем выйти за рамки рисков этих технологий и использовать преимущества».
Вам также может понравиться...
- OpenAI утверждает, что помощник ChatGPT «Sky» не был преднамеренной копией голоса Скарлетт Йоханссон
- Создатели музыки на основе ИИ сталкиваются с юридической битвой в индустрии звукозаписи из-за групп, которые могут создать проблемы для ваших мелодий, сгенерированных ИИ
- Новый синтезатор голоса OpenAI может скопировать ваш голос всего из 15 секунд аудио
Оригинал