Google активно борется с дипфейками

Ранее в этом месяце компания Google решила добавить обучение дипфейкам в список запрещенных проектов в своем сервисе Colaboratory. Изменение было впервые замечено разработчиком DFL в Discord под ником «chervonij». Когда он попытался обучить свои дипфейковые модели на платформе, он получил сообщение об ошибке, в котором говорилось 

«Возможно, вы выполняете запрещенный код, и это может ограничить вашу возможность использовать Colab в будущем. Обратите внимание на запрещенные действия, указанные в нашем разделе часто задаваемых вопросов».

Похоже, Google внесла изменения незаметно и с тех пор хранит молчание по этому поводу. Хотя этика — это первая потенциальная теория, которая приходит на ум, реальная причина может быть немного более прагматичной.

Злоупотребление бесплатным ресурсом

Deepfakes – это видео, созданные с помощью фотошопа – поддельные видеоролики, в которых люди говорят то, чего на самом деле никогда не говорили. Их создатели используют технологии искусственного интеллекта (ИИ) и машинного обучения (МО) для создания супер убедительных видеороликов, которые становится все труднее отличить от законного контента.

Однако, чтобы сделать их убедительными, дипфейки требуют значительной вычислительной мощности, мало чем отличающейся от той, что предлагается через сервис Colab. Этот проект Google позволяет пользователям запускать Python в своем браузере, используя бесплатные вычислительные ресурсы.

 Поскольку дипфейки обычно используются для шуток, создания фальшивых новостей или распространения фейкового порно из мести, легко предположить, что за решением Google стоит этика. Однако также могло случиться так, что слишком много людей использовали Colab для создания забавных небольших видеороликов с дипфейками, что мешало другим исследователям выполнять более «серьезную» работу. В конце концов, вычислительный ресурс можно использовать бесплатно.

Помимо дипфейков, Google не разрешает использовать Colab в таких проектах, как майнинг криптовалюты, проведение атак типа «отказ в обслуживании», взлом паролей, использование нескольких учетных записей, чтобы обойти ограничения доступа или использования ресурсов, используя удаленный рабочий стол или SSH или подключаясь к удаленным прокси-серверам.

Через: BleepingComputer