Навигация по влиянию генеративного ИИ
18 мая 2023 г.Подобно снежному кому, катящемуся вниз по склону, ИИ — особенно генеративный ИИ — продолжает набирать массу и обороты, собирая в процессе как вероятное, так и маловероятное содержимое. Почти ежедневно появляются объявления о новых способах использования генеративного ИИ (GAI) — улучшении здравоохранения, оптимизации бизнеса и создании искусства. И в то время как некоторые восхищаются инновациями, другие срочно бьют тревогу о неправомерном использовании от вредоносных программ до дезинформации, от использования оружия до подчинения человечества. Недавние заявления о том, что основные правительства по всему миру рассмотрят закон о контроле за GAI, скорее всего, перерастут в глобальную дискуссию. Но наивно полагать, что политики могут преодолеть физику инноваций. Невозможно поставить GAI Джин снова в бутылке.
н
Если еще три года назад в продукте не было искусственного интеллекта, то он считался продуктом последнего поколения. Продукты от BI до EDR нуждались в искусственном интеллекте и машинном обучении, чтобы понимать объемы собираемых и агрегированных данных. Просто было слишком много данных, чтобы люди могли во всем разобраться. Поиск иголок в стогах сена был задачей движков AI/ML — самородки, которые мы не могли видеть, закономерности, которые мы не могли найти. Благотворный цикл вычислительной мощности и массового хранения подпитывал развитие генеративного ИИ, выходящего за рамки анализа прошлых данных и генерирующего новый уникальный контент. Оглядываясь назад, GAI был логической эволюцией технологии, которая началась, когда мы приняли большие данные. Но, несмотря на этот прогресс, такие инструменты, как ChatGPT, вызывают опасения, почерпнутые из научно-фантастических фильмов.
ChatGPT ворвался в общественное сознание в конце 2022 года, предоставив ответы в хорошо упакованной форме. , понятный язык. Вдобавок к его загадочности была возможность уточнять результаты запросов с помощью дополнительных вопросов или задач. Это было похоже на разговор. Поисковые запросы не могли этого сделать. Никакой общедоступный инструмент не мог взаимодействовать таким образом, чтобы это напоминало разговор. Варианты использования и случаи неправильного использования резко возросли, поскольку все больше и больше людей раздвигали границы возможного. Постоянный поток заголовков привлек внимание лидеров мнений, ученых и законодателей.
н
В марте более 100 исследователей и инженеров ИИ написали открытое письмо, в котором выразили обеспокоенность по поводу Возможность использования GAI в дипфейках, создании дезинформации и разработке вредоносного контента. Обеспокоенность была дальновидной, но коренилась в желании разработать руководящие принципы для GAI до того, как импульс инноваций станет неудержимым. Они призвали к разработке этических норм, созданию инструментов для обнаружения и обезвреживания вредоносного контента, а также к просвещению общественности.
н
Несколько правительств ответили на письмо, повторив опасения автора и пообещав улучшить управление. Хотя правительство США не было среди тех, кто ответил на письмо, 4 мая президент Байден объявил о действиях по решению проблем с GAI. Но в краткосрочной перспективе любое регулирование будет в значительной степени церемониальным и практически неисполнимым.
Правительствам будет трудно сократить создание новых моделей, замедлить расширение возможностей или запретить злонамеренные варианты использования. В отличие от ядерного материала или оборудования для обогащения, эти модели могут быть созданы и распространяться в любой точке земного шара без обнаружения. Соблюдение этических норм также не замедлит раскатывание снежного кома, поскольку большинство злонамеренных действий исходят из источников с сомнительными намерениями.
н
Генеративный ИИ ни хорош, ни плох. Это инструмент. Это новшество имеет огромный потенциал и тревожные недостатки. Умные люди найдут новые способы использования этого инструмента, во благо и во вред, и будут постоянно адаптироваться по мере его развития.
Является ли законодательство ответом? Возможно, но только на то, что могла сделать ГАИ.
Являются ли этические принципы ответом? Может быть, но только для тех исследователей и разработчиков, которые руководствуются моральным компасом.
Является ли ответ на генеративный ИИ более генеративным ИИ, настроенным на обнаружение и маркировку нечеловеческого вывода? Этот ответ кажется наиболее правдоподобным и почти бесспорным.
По мере развития этих движков и умножения злоупотреблений, фильтры и сканеры контента также будут развиваться, гарантируя, что вывод соответствует нормам человеческого и нечеловеческого контента. Джинна генеративного ИИ обратно в бутылку не загонишь. Решение состоит в том, чтобы получить свой собственный.
н
н-н
Оригинал