Креативный ИИ «встряхивает» ядро человечества и требует более широкого обсуждения этики
9 января 2023 г.Последнее десятилетие ИИ занимался автоматизацией самых рутинных и повторяющихся задач. Люди по-прежнему отвечали за творческую работу и мышление. Граница между людьми и машинами была четкой. Машины могут вычислять, но люди пишут алгоритм. Или ИИ может помочь исправить фотографию, сделанную человеком. Этот тип автоматизации принес гораздо больше возможностей, чем проблем. Как общество, оно обещало, что если мы сможем использовать его должным образом, оно высвободит больше времени для отношений, самовыражения и творчества. Те вещи, которые придают нам смысл, вещи, которые составляют основу нашей человечности.
Затем недавно и особенно в прошлом году появился генеративный ИИ. Stable Diffusion, Dalle, Midjourney и им подобные могут создавать профессиональные изображения на основе текстовой подсказки, а GPT-чат может отвечать на вопросы и писать эссе. Машина стала креативной! И это разрушит границу между людьми и машинами. Это заставит нас подвергнуть сомнению суть нашей человечности. Как мы будем работать в мире, где машина может без особых усилий сделать каждый рисунок и написать любое эссе? Что мы ценим и что придаст нам смысл? И зачем вообще прикладывать усилия к чему-либо?
Речь идет не о защите рабочих мест
Для художников среди нас есть дополнительная ирония. Мало того, что генеративный ИИ может угрожать их средствам к существованию и заставить усомниться в осмысленности их жизни, но и машина делает это, копируя их работу. Любая работа художников, размещенная в Интернете, удаляется без одобрения авторских прав, обрабатывается и воспроизводится в новых вариациях. Если вы копируете от одного человека, это плагиат, но если вы копируете от всех, это потенциально считается добросовестным использованием, а также невозможно отследить.
Неудивительно, что начался массовый протест. Художники в Artstation, веб-сайте для демонстрации компьютерной графики и иллюстраций, изменили свое изображение профиля на «нет ИИ», и это вынудило Artstation изменить его политику, и теперь каждый элемент может быть помечен как «нет ИИ», что означает, что ему не разрешено используйте его для обучения ИИ. Это изменение в правильном направлении, оно заставляет компании, занимающиеся искусственным интеллектом, придерживаться правил собственности. Однако полностью автоматизировать искусство это не остановит, да и не должно.
Смена профессии из-за технологического прорыва неизбежна. Мы уже проходили через этот цикл много раз. Лифтчики остались в прошлом. Турагентов осталось не так много, а примеров гораздо больше. Есть даже приоритет в творческой работе, изобретение фотографии резко сократило количество художников-реалистов, а позже цифровая камера изменила фотоиндустрию.
Более того, неэтично пытаться остановить технологии, чтобы сохранить рабочие места. Это будет означать предпочтение прав немногих, тех, чья работа находится под угрозой, правам многих других, тех, кто может пользоваться плодами этой автоматизации. Но есть способы справиться с этой угрозой.
Есть способы заменить рабочие места, которые будут потеряны для генеративного ИИ
В опросе проведенного в 2017 году, большинство экспертов полагали, что по мере того, как некоторые рабочие места устаревают, создается еще больше новых рабочих мест. Основываясь на исторических тенденциях, Всемирный экономический форум по оценкам, в 2020 году автоматизация создаст на 12 миллионов рабочих мест больше, чем уволит.
Я склонен думать, как Джейсон Хикель, что при нынешней экономической системе, где капитал всегда стремится к росту, все издержки сбережения, полученные за счет автоматизации, реинвестируются в производство, и люди продолжают производить. Но что люди производят больше без конца. Создаются новые рабочие места, потребляется больше продуктов и материалов, но качество жизни не повышается. Поэтому Джейсон и другие прогрессисты считают, что, замедляя рост, мы можем использовать эту экономию средств, чтобы обеспечить всех универсальным базовым доходом и высвободить их время. Время, которое люди могут использовать для творческих занятий.
Независимо от того, смотрим ли мы на ближайшую перспективу, когда рабочие места трансформируются, но не теряются, как считает Всемирный экономический форум, или на более долгосрочную перспективу, когда мы работаем меньше и потребляем меньше, как надеется Джейсон Хикель, существует дорожная карта для решения проблемы потери рабочих мест. Но необходимо начать разговор о том, как сохранить творческий потенциал человека в эпоху творческих машин.
Этика генеративного ИИ
Этика ИИ раньше сводилась к созданию беспристрастные системы, о поддержке права на конфиденциальность, находясь под постоянным наблюдением программного обеспечения с функцией распознавания лиц и объектов. Затем, когда началось генеративное машинное обучение, этика расширилась до /">предотвращение распространения фейков в мире дипфейков и о авторское право. Все это правда, но на карту поставлено нечто большее. Этика творческого машинного обучения также должна быть направлена на сохранение человечности в людях.
В научной фантастике-антиутопии, такой как космическая одиссея, угроза всегда заключается в том, что машина взращивает своеволие и яростно восстает против людей. В реальности ничего подобного не получается. Кто бы мог подумать, что машина будет угрожать нам рисованием картин и написанием сочинений?
Вот несколько предлагаемых политик, которые нам следует рассмотреть, если мы хотим построить честное, справедливое и осмысленное будущее. Некоторые меры являются более краткосрочными, другие труднее осуществить. Но если человеческая изобретательность может изобрести эти машины, то она может также изобрести политику управления ими. Так и должно быть, от этого зависит наше будущее.
Обновить творческие лицензии для использования в обучении ИИ
Каждая часть оригинального творения: фотографии, рисунки или коды имеют лицензию, определяющую, что с ними можно делать. Некоторые творения бесплатны, другие предлагаются за гонорары. Некоторые из них могут быть использованы для любого использования, включая коммерческое использование, а другие предназначены только для частного использования и исследований. И так далее.
Использование сторонних разработок для обучения модели машинного обучения — новый вариант использования. Следовательно, это должна быть новая категория в лицензировании. Работа либо разрешена для обучения машинному обучению (бесплатно или за вознаграждение), либо нет, в зависимости от лицензии. У Sloyd (автор является соучредителем) есть художники, создающие 3D-модели и детали моделей специально для ИИ, и они получают за это компенсацию.
Когда данных для обучения станет меньше, у создателей, которые будут придумывать новые способы выражения, будет больше времени, чтобы насладиться плодами этого нового творческого пути, прежде чем его имитирует машина. Или эти создатели могут решить продать свои творения для обучения ИИ по справедливой цене и быстро обналичить свои новые творения.
Модели, уже обученные массовым общедоступным произведениям, защищенным авторским правом, должны принадлежать общественности
Кроме того, есть модели, уже обученные на огромном количестве творений без согласия. «Корабль уплыл», и его нельзя отменить. Судебные разбирательства о том, что делать с прошлой работой, которая использовалась в обучении, будут говорить годами, а машинное обучение, которое есть сейчас, будет использоваться миллиарды раз, прежде чем судебный процесс будет урегулирован.
Более того, нет справедливого способа перераспределить ценность, созданную этими машинами, обратно создателям. Если богатство не может быть перераспределено, то лучше всего предложить его бесплатно населению. LAION – набор ссылок на изображения и соответствующие описания, используемый для обучения преобразованию текста в изображение, уже является некоммерческим (хотя он не отфильтровывает на основе об ограничениях авторского права). Stability AI, создатель стабильной диффузии, является компанией с открытым исходным кодом, занимающейся генеративным машинным обучением. Использование их машины бесплатно, и они зарабатывают деньги на надстройках. Аналогичным образом, чтобы выйти из судебного разбирательства, другим компаниям потребуется бесплатно предлагать свои инструменты машинного обучения или выделить этот продукт в отдельную компанию, которая использует его как открытый исходный код.
Это может показаться надуманным, но FTC уже рассматривает возможность такая политика по разрушению крупных технологических компаний для усиления конкуренции. Использование одних и тех же политик для управления крупнейшим технологическим сдвигом в нашей жизни не кажется чем-то надуманным.
Ценность ИИ, который повышает творческий потенциал, а не снижает его
Компании и частные лица, разрабатывающие и обучающие ИИ, должны подумать о том, как расширить творческие возможности людей. Обзор технологий приводит несколько примеров где машина способствует творчеству, а не заменяет его: плагин преобразования текста в изображение в Photoshop; подключаемый модуль Stable Diffusion для Blender и виджет преобразования текста в изображение для Office.
В Sloyd мы думаем о создании с помощью ИИ, а не о создании ИИ. Мы начали с того, что больше сосредоточились на автоматизации 3D-моделей для окружения и игрового реквизита, поскольку большинство 3D-художников любят работать над персонажами для своих игр, но им не помешала бы помощь в автоматизации всего остального. Мы используем платных создателей сообщества для создания учебной базы данных, и эта база данных всегда будет расширяться, поэтому в нее всегда будет творческий человеческий вклад. Мы пытаемся предоставить способы прямого манипулирования объектами с помощью пользовательского ввода, чтобы пользователи могли лучше контролировать вывод. В этом случае предложение является этическим, а не политическим предложением. Однако если у нас будут четкие этические принципы, со временем мы сможем предложить политику в их поддержку.
Учитывайте реальную стоимость обучения, включая воздействие на окружающую среду
Мы платим за электроэнергию на основе стоимости добычи сырья и производства, экологические затраты не учитываются. Это верно для любого использования, для отопления и освещения, а также для центров обработки данных, использующих ИИ.
Центры обработки данных потребляют около 2 % от общей энергии, и ожидается, что эта доля вырастет до 8 %, в значительной степени за счет энергопотребления ИИ, которое удваивается каждые 3 месяца. Обучение машинному обучению требует много энергии, но вывод (с использованием обученной модели для создания выходных данных) требует больших ресурсов. Сейчас трудно найти данные о том, сколько энергии потребляет логический вывод, и это часть проблемы. Что касается бытовой техники, мы знаем, сколько энергии потребляется, у нас даже есть рейтинги энергопотребления. Почему у нас нет аналогичных рейтингов энергопотребления в программном обеспечении? (это было предложено Ойвниндом Сёрёй, моим коллегой в Sloyd).
Если мы начнем измерять и если нам придется оплачивать реальную стоимость энергии, то во многих случаях мы обнаружим, что та же цель может быть достигнута гораздо более эффективно с помощью другого типа автоматизации или более эффективного ИИ. Это часть более крупной зеленой революции, но ожидается, что на центры обработки данных будет приходиться 8 % потребления, а помимо программного обеспечения для дома и офиса, не могут быть исключены, в частности, программное обеспечение и искусственный интеллект.
Обсуждение этики и политики генеративного ИИ только началось
Возможности, которые открывают творческие машины, очень глубоки, но не менее важны и последствия. Если мы сможем представить себе будущее, которое хотим, будущее, в котором люди находят смысл в творчестве, мы сможем начать устанавливать правильные принципы этического генеративного машинного обучения. Представленные здесь идеи могут стать основой для будущей политики, или, возможно, появятся лучшие идеи. Одно можно сказать наверняка: понимание последствий и обсуждение мер, которые мы предпримем, только начинаются.
Оригинал