Midjourney не вздрогнул от поддельных изображений Трампа, но злоупотребление платформой мотивировало остановку бесплатной пробной версии
31 марта 2023 г.Поддельные фотографии быстро приближаются к тому моменту, когда многие уже не могут отличить их от реальных изображений. Генератор изображений с искусственным интеллектом Midjourney усвоил этот урок на собственном горьком опыте, когда некоторые использовали его платформу для создания нескольких недавних изображений, в том числе нескольких подделок ареста бывшего президента США Дональда Трампа. После того, как изображения стали вирусными, многие подумали, что они настоящие, что вызвало разговоры и споры, основанные на полностью сфабрикованной информации.
Согласно The Washington Post и сообщается The Verge эти дипфейки стали настолько широко распространены, что 28 марта они побудили Midjourney приостановить бесплатные пробные версии. Однако, когда TechRadar обратился за разъяснениями к генеральному директору и основателю Midjourney Дэвиду Хольцу, он настоял на том, что причина была в другом. о приостановке: «Пользователи, регистрирующие несколько бесплатных пробных учетных записей, приводили к отключению службы для платных пользователей, поэтому мы временно приостановили бесплатные пробные версии».
Это коррелирует с предыдущим заявлением Хольца, сделанным The Verge относительно бесплатных пробных версий, что это было связано с «чрезвычайным спросом и злоупотреблением пробными версиями». Ранее бесплатная пробная версия Midjourney позволяла получать 25 бесплатных изображений в месяц, прежде чем пользователям приходилось платить не менее 10 долларов в месяц за подписку.
Когда его спросили о создании этих противоречивых дипфейков, созданных через Midjourney, Хольц сказал TechRadar: «Я думаю, что мы все еще пытаемся выяснить, какова правильная политика модерации. Мы получаем отзывы от экспертов и сообщества и стараемся быть действительно вдумчивыми. У нас уже есть несколько новых систем, которые должны появиться в ближайшее время».
Теперь, однако, похоже, что Midjourney будет оставлять бесплатные пробные версии отключенными, по крайней мере на ближайшее будущее. «Мы попытались снова включить пробные версии с новыми средствами защиты от злоупотреблений, но их оказалось недостаточно, поэтому мы снова отключаем их, чтобы сохранить службу для всех остальных», — сказал нам Хольц.
Он добавил, что со временем бесплатные пробные версии вернутся, но компания все еще думает, как это сделать. «Мы все еще пытаемся выяснить, как вернуть бесплатные пробные версии, мы пытались потребовать активное электронное письмо, но этого было недостаточно, поэтому мы вернулись к чертежной доске».
Что такое Midjourney?
Midjourney — это лишь один из нескольких генераторов изображений с искусственным интеллектом, среди которых есть Dall-E, Jasper Art, Starry AI, Stable Diffusion и многие другие. Эти сайты существуют для создания новых и полностью сфабрикованных изображений, которые обучаются на существующих онлайн-изображениях и данных. Изображения могут быть фотореалистичными, причудливыми изображениями животных, сюрреалистическими изображениями, пиксельной графикой и многим другим. Что изначально отличало Midjourney от других генераторов, так это более живописное качество его изображений по сравнению с другими. По крайней мере, до тех пор, пока 15 марта не будет выпущена версия 5.
Первоначально изображения, созданные Midjourney, были легко обнаружены благодаря общим признакам, таким как кривые руки (слишком много пальцев). Но как только была запущена пятая версия его программного обеспечения, качество изображений стало значительно выше, а это означало, что люди могли создавать изображения с более реалистичными руками, а также с лучшим освещением и тканью. По сути, вы можете сделать множество подделок знаменитостей и других общественных деятелей благодаря сочетанию более совершенных технологий и огромного количества реальных изображений, доступных для обучения Midjourney.
Растущей проблемой становятся дипфейки или фотографии, созданные с использованием технологии искусственного интеллекта с целью распространения дезинформации с помощью поддельных изображений. Помимо дипфейков об аресте Дональда Трампа, другие, созданные с помощью Midjourney, изображали Папу Франциска в пухлом белом пуховике, президента Франции Эммануэля Макрона, проходящего через продолжающиеся протесты в Париже, и генерального директора Twitter Илона Маска, держащегося за руку с представителем США Александрией Окасио-Кортес.
Это не первый раз, когда творения, созданные ИИ, оказываются в центре споров, поскольку лидеры технологий и эксперты по ИИ недавно опубликовали открытое письмо с призывом прекращение обучения чат-ботов с искусственным интеллектом, таких как ChatGPT.
Будущее сайтов изображений, созданных искусственным интеллектом, таких как Midjourney, неопределенно. Хотя эта технология обладает большим потенциалом для помощи людям, она может и уже использовалась более разрушительными способами. Только время покажет, смогут ли меры безопасности, от законодателей до самих компаний, управлять безопасностью и общественным благом, при этом позволяя ИИ процветать и расти.
Оригинал