Задайте эти вопросы, прежде чем создавать свои аватары Lensa Magic
9 декабря 2022 г.Почему я это сделал? Почему я выложил 8 долларов за 50 разных абстрактных, импрессионистских, умопомрачительных портретов самого себя? Я настолько нарцисс? Мы все?
Наш Instagram и другие социальные каналы в настоящее время переполнены интерпретациями наших лиц в высоком разрешении и различными люками, также известными как волшебные аватары. Все они любезно предоставлены приложением Lensa, механизмом генерации изображений с искусственным интеллектом, который создает некоторые дикие и часто основанные на фантазиях интерпретации любых изображений, которые мы ему подаем.
Были и другие подобные платформы, такие как Reface, которые позволяли вам помещать свое лицо в известные видеоклипы. Все какое-то время этим занимались. Я превратился в Тома Круза.
Приложение было бесплатным (с большим количеством рекламы, насколько я помню), и в конце концов мы все решили, что, возможно, это не такая уж хорошая идея — загружать наши изображения какому-нибудь случайному разработчику приложений.
Lensa заполняет это пространство, но с продуктом, который почти требует, чтобы вы платили за него, сначала с помощью жесткой продажи дорогостоящей подписки, а затем, более небрежно, с предложением пакетной оплаты за изображение AI.
Что меня шокирует, так это просто огромное количество людей, которые платят за то, чтобы их изображения переваривались, а затем выплевывались в виде поразительных искусственных произведений искусства. FOMO настолько сильны здесь, что все (даже этот теперь смущенный репортер) поддаются. Мой взрослый сын потратил почти 15 долларов на партию фотографий своей девушки.
Я не горжусь
Почему я это сделал? Две причины. Я устал видеть чужие аватары Lensa Magic в своей ленте, и мне также очень нужно было что-то свежее для Instagram. Примерно так я отношусь к своим социальным каналам, всегда стараюсь держать трубку полной по причинам, которые я вряд ли могу здесь объяснить.
Добавление моих AI-изображений в растущий легион величественных портретов, созданных Lensa в Instagram, было несложным. Приложение находится в свободном доступе на iOS и Android. Открыв его, вы получите предложение подписки за 49,99 долларов, которое вы можете «отменить в любое время». Я лично ненавижу такие приложения, которые дразнят вас невероятно крутой функцией, но требуют непомерных денежных платежей вперед (я также могу быть дешевым).
Как и многие другие приложения, дополнительное предложение является своего рода прикрытием. Если вы проигнорируете это, приложение сразу же перебросит вас в раздел с оплатой за игру, где вы можете купить от 50 (7,99 долл. США) до 100 (14,99 долл. США) волшебных аватаров, созданных искусственным интеллектом, без подписки на что-либо.
Теперь я не могу вспомнить, когда в последний раз я платил 8 долларов за привилегию использовать одну функцию приложения, но такова была песня сирен этих красивых портретов. Я рационализировал стоимость в своей голове: «Да ладно, вы бы заплатили столько за два пончика Krispy Kreme и воду», что я и купил на прошлой неделе.
После этого приложение попросит вас загрузить от 10 до 20 изображений себя в разных позах и с разными выражениями лица. Я решил просмотреть папку «Селфи» на своем iPhone, где нашел кучу подходящих фотографий. Я загрузил партию, но Lensa забраковала некоторые как непригодные (не сказала почему), поэтому я выбрала еще несколько. Оглядываясь назад, я должен был выбрать гораздо меньше снимков профиля и изображений, на которых я корчу глупые лица. Как и в большинстве систем изображений с искусственным интеллектом, вы получаете то, что вкладываете в Lensa.
В целом, я доволен результатами (некоторые образцы вы можете увидеть выше), но я ушел неловко, чувствуя себя немного так, как будто меня разыграли. Я должен был задать несколько вопросов, на самом деле много, прежде чем загружать свои фотографии.
На следующий день после того, как Lensa предоставила мне 50 ИИ-изображений в разрешении 4K (они остаются в приложении, но вы можете загрузить избранное в стандартном разрешении или в разрешении 4K), я отправил разработчику Lensa Prisma Labs список вопросов:
- Храните ли вы загруженные фотографии? Если да, то зашифрованы ли они?
- Когда вы запустили часть Magic Avatar?
- Каким образом ИИ используется для создания изображений?
- Каким образом многие люди загрузили свои изображения?
- Почему вы платите за подписку заранее, когда люди могут просто заплатить 7,99 долларов США за 50 изображений?
- Как вы решаете проблемы с загружаемыми изображениями людей? без их разрешения?
- Слышали ли вы о том, что некоторые из них используются для создания контента для взрослых?
В некотором смысле вы можете взять любой или все эти вопросы и применить их практически к системе генерации изображений ИИ. Хотя все эти системы ИИ интересны, они кажутся черными ящиками. Для некоторых мы просто поместили в текстовых подсказках, но мы до сих пор не понимаем, как они генерируют изображения.
Тяжелая работа, стоящая за волшебными аватарами Lensa, например, выполняется бесплатной платформой для создания изображений с открытым исходным кодом Stable Diffusion — одной из многих, обвиняется в присвоении прав художникам' работать над обучением своей модели ИИ.
Но это только одна из моих забот. Другой вопрос, что происходит с изображениями, которые мы так охотно даем ему? Откуда мы знаем, например, что изображения, которые мы загружаем, не используются для дальнейшего обучения ИИ? Я не вижу возможности отказаться от этой возможности.
Также нет никаких предупреждений о том, что вы не должны загружать чье-либо изображение без разрешения. Я слышал сообщения о том, что некоторые люди используют систему для создания порнографических изображений ничего не подозревающих людей без их согласия.
Куда попадают наши исходные изображения, когда работа Ленсы закончена? Без информации, которая обещает, что Lensa их удалит, я должен предположить, что они хранят их все в файле. Мы можем только надеяться, что они хотя бы зашифрованы.
Prisma Labs отвечает
У меня есть хорошие новости. Несмотря на то, что Prisma Labs не включает в свое приложение много информации, которую я считаю необходимой, и не отвечает на мои вопросы напрямую, она указала мне на объемный FAQ, который решает некоторые из этих проблем.
На вопрос, что Lensa делает с нашими изображениями, Prisma Labs пишет, что они «удалены из Prisma Labs». сервера после завершения обработки. Однако FAQ также содержит этот язык:
«Мы храним аватары столько времени, сколько требуется нашим пользователям для предоставления услуги. Обратите внимание, что в настоящее время разрабатывается новая функция, которая позволит пользователям безвозвратно удалять свои аватары с наших серверов».
Иными словами, ваши исходные фотографии исчезли, но изображения, созданные Ленсой? Они все еще есть в Prisma Labs. Кстати, о шифровании данных речи не идет.
В разделе часто задаваемых вопросов не рассматриваются вопросы владения изображением: загружаемое вами изображение должно быть вашим собственным или тем, на доступ к которому у вас есть права. Это касается «сексуализированных» изображений, но в основном склонности ИИ к сексуализации женских персонажей. Что еще более важно, Prisma Labs добавляет: «Преднамеренное использование приложения для создания откровенного контента абсолютно запрещено нашими Условиями использования и обязывает пользователей Lensa соблюдать это требование».
Непонятно, как Prisma Labs соблюдает это конкретное правило, и, что еще менее полезно, Prisma Labs добавляет примечание: «К сожалению, все эти усилия еще не сделали ИИ абсолютно безопасным от предвзятого контента и явных изображений. Поэтому мы оговариваем, что продукт не предназначен для использования несовершеннолетними и предупреждает пользователей о потенциальных рисках контента».
Я не могу на законных основаниях сказать вам не пробовать приложение, особенно после того, как я пошел дальше и сделал это. Однако прежде чем вы это сделаете, убедитесь, что вас устраивают ответы Prisma Lab (и отсутствие ответов) на любой из этих вопросов.
Оригинал