Microsoft обуздает Image Creator от Bing AI — и результаты не имеют особого смысла

10 октября 2023 г.

Возможно, вы заметили, что На прошлой неделе Bing AI получил большое обновление для своего инструмента создания изображений (среди других недавних улучшений), но похоже, что, сделав этот значительный шаг вперед, Microsoft теперь предприняла шаг назад.

Если вы пропустили это, система создания изображений Bing была обновлена ​​до совершенно новой версии – Dall-E 3 – которая намного более мощная. Настолько, что Microsoft отметила, что Dall-E 3 с наддувом вызывает большой интерес и трафик, и поэтому поначалу может быть вялым.

Однако с Dall-E 3 есть еще одна проблема, поскольку Windows Central заметил, что Microsoft значительно ограничила использование этого инструмента с момента его недавнего обновления.

Нам уже сообщили, что инструмент создания изображений будет использовать «систему модерации контента», чтобы остановить создание неуместных изображений, но похоже, что введенная цензура жестче, чем ожидалось. Это может быть реакцией на тот тип контента, который пользователи Bing AI пытались заставить систему создать.

Как отмечает Windows Central, было много споров по поводу изображения Микки Мауса, совершающего атаку 11 сентября (что неудивительно).

Проблема, однако, в том, что, помимо таких крайних запросов, как ясно видно из статьи, некоторые пользователи обнаруживают, что безобидные запросы на создание изображений отклоняются. Windows Central попыталась заставить чат-бота сделать изображение человека, разбивающего серверную стойку кувалдой, но ей сказали, что это нарушает условия использования Microsoft Bing AI.

На прошлой неделе автор статьи отметил, что они могут создавать сценарии жестокого зомби-апокалипсиса с участием популярных персонажей (защищенных авторским правом), при этом Bing AI не будет подавать жалобу. <час>

Анализ: случайная цензура

Мы должны добавить, что речь идет о том, что цензура здесь является чрезмерной реакцией, или, судя по сообщениям, это так. Microsoft, судя по всему, оставила правила слишком мягкими при первоначальной реализации, но теперь пошла дальше и ужесточила правила слишком сильно.

Что действительно иллюстрирует это, так это то, что Bing AI даже подвергает цензуре сам себя, как подчеркнул кто-то на Реддит. В Bing Image Creator есть кнопка «Удиви меня», которая генерирует случайное изображение (эквивалент кнопки Google «Мне повезет», если хотите, которая производит случайный поиск). Но вот в чем дело: ИИ идет вперед, создает изображение, а затем немедленно подвергает его цензуре.

Что ж, мы полагаем, что это сюрприз, если честно, и который, казалось бы, удачно демонстрирует, что цензура Microsoft Image Creator, возможно, зашла слишком далеко, ограничивая его полезность, по крайней мере, в некоторой степени. Как мы говорили вначале, это случай шага вперед, а затем быстрого шага назад.

Windows Central отмечает, что ей удалось воспроизвести этот сценарий самоцензуры Bing, и что это даже не редкое явление — по сообщениям, оно происходит примерно в трети случаев. Похоже, что пришло время Microsoft провести более тонкую настройку в этой области, хотя, честно говоря, когда будут развернуты новые возможности, вероятно, в течение некоторого времени будут применяться корректировки — так что, возможно, эта работа уже ведется.

Опасность того, что Microsoft слишком сильно ошибется в вопросе «скорее безопасно, чем жаль», заключается в том, что это ограничит полезность инструмента, который, в конце концов, должен использоваться для изучения творчества.

Мы обратились в Microsoft, чтобы узнать, что происходит с Bing AI в этом отношении, и обновим эту историю, если получим ответ.

Вам также может понравиться...

• Bing AI приходит в Chrome, бросая вызов Google Bard на своей территории
• Microsoft убирает функции Edge в попытке превзойти Chrome
• Вслед за Bing AI Google может представить инструменты для письма с искусственным интеллектом на Chromebook

---

Оригинал