Реакция ИИ начинается: художники могут защититься от плагиата с помощью этого мощного инструмента
27 октября 2023 г.Команда исследователей из Чикагского университета создала инструмент, призванный помочь онлайн-художникам «дать отпор компаниям, занимающимся искусственным интеллектом», вставляя, по сути, ядовитые таблетки в их оригинальные работы.
Говорят, что это программное обеспечение, названное Nightshade, в честь семейства токсичных растений, вводит ядовитые пиксели в цифровое искусство, что мешает генеративные ИИ интерпретируют их. Принцип работы таких моделей, как Stable Diffusion, заключается в следующем. они рыскают по Интернету, собирая как можно больше изображений, чтобы использовать их в качестве обучающих данных. Nightshade использует эту «уязвимость безопасности». Как поясняется в Обзоре технологий MIT< /a>, эти «отравленные образцы данных могут манипулировать моделями, заставляя их обучаться» неправильным вещам. Например, он мог видеть изображение собаки в виде кошки или машины в виде коровы.
Тактика отравления
В рамках этапа тестирования команда загрузила зараженный контент Stable Diffusion, а затем «предложила ему создать изображения собак». Получив 50 образцов, ИИ сгенерировал изображения деформированных собак с шестью ногами. После 100 вы начинаете видеть что-то напоминающее кошку. Как только его дали 300, собаки стали полноценными кошками. Ниже вы увидите другие испытания.
Далее в отчете говорится, что Nightshade также влияет на «косвенно связанные» идеи, поскольку генеративные ИИ хорошо «устанавливают связи между словами». Если вы возитесь со словом «собака», вы смешиваете похожие понятия, такие как щенок, хаски или волк. Это распространяется и на художественные стили.
Компании, занимающиеся искусственным интеллектом, могут удалить токсичные пиксели. Однако, как отмечается в сообщении MIT, «их очень сложно удалить». Разработчикам придется «найти и удалить каждый поврежденный образец». Чтобы дать вам представление о том, насколько это будет сложно, отметим, что изображение 1080p содержит более двух миллионов пикселей. Если это было недостаточно сложно, эти модели «обучаются на миллиардах выборок данных». Итак, представьте, что вы просматриваете море пикселей и обнаруживаете горстку тех, кто возится с движком искусственного интеллекта.
По крайней мере, это идея. Nightshade все еще находится на ранней стадии. В настоящее время технология «вынесена на экспертную оценку на конференции по компьютерной безопасности Usenix». MIT Technology Review удалось получить краткую информацию.
Будущие усилия
Мы обратились к руководителю группы профессору Бену Ю. Чжао из Чикагского университета с несколькими вопросами.
Он сказал нам, что у них есть планы «внедрить и выпустить Nightshade для публичного использования». Это будет часть Glaze как «дополнительная функция». Глазурь, если вы не знакомы, — это еще один инструмент, созданный командой Чжао, дающий художникам возможность «маскировать свой личный стиль» и не давать ему быть перенятым искусственным интеллектом. Он также надеется сделать Nightshade открытым исходным кодом, что позволит другим создавать свой собственный яд.
Кроме того, мы спросили профессора Чжао, есть ли планы создать Nightshade для видео и литературы. Прямо сейчас несколько авторов судятся с OpenAI, заявляя о программе< /a> «использует свои работы, защищенные авторским правом, без разрешения». Он заявляет, что разработка токсичного программного обеспечения для других работ будет большой задачей, «поскольку эти домены сильно отличаются от статических изображений. У команды «пока нет планов по решению этих проблем». Надеюсь, когда-нибудь в ближайшее время.
Пока что первоначальная реакция на Nightshade положительная. Цзюньфэн Ян, профессор информатики Колумбийского университета, рассказал Technology Review, что это может заставить разработчиков ИИ «больше уважать права художников». Возможно, даже будут готовы выплатить гонорары.
Если вы заинтересованы в том, чтобы заняться иллюстрацией в качестве хобби, обязательно ознакомьтесь со списком лучшее программное обеспечение для цифрового искусства и рисования в 2023 году.
Вам также может понравиться
- Что такое ИИ? Все, что вам нужно знать об искусственном интеллекте...
- Snapdragon 8 Gen 3 здесь, чтобы запустить искусственный интеллект на вашем следующем телефоне... < li>Карты Google получили большое обновление искусственного интеллекта – вот 5 лучших новых раз...
Оригинал