Размышления о том, как искусственный язык оказывает контроль через структуру, а не речь

Размышления о том, как искусственный язык оказывает контроль через структуру, а не речь

31 июля 2025 г.

Что рассматривает в этой статье

Рассмотрим предложение: «Все учетные данные должны быть проверены до предоставления доступа».

Это кажется нормальным. Это звучит официально. Но остаются два важных вопроса: кто должен их проверить? Кто дал инструкцию?

Эти вопросы закрепляют опубликованный синтаксис статьи без предмета. Исследование исследует, как искусственный интеллект, особенно крупные языковые модели (LLMS), создает документы, которые регулируют поведение, навязывают обязанности и наметили процедуры, но делают это без выявления спикера, агента или учреждения. Поверхностная грамматика остается нетронутой. Источник исчезает.

Это явление не ограничивается краевыми случаями. Это становится нормой в юридическом отказе от ответственности за Ай, потоках на адаптировании, уведомлениях о конфиденциальности и внутренних документах по соблюдению.

Что показывает корпус

Всего было проанализировано 172 институциональных текста, полученных LLM. Эти документы поступили из трех областей, где атрибуция и ответственность требуются на законных основаниях:

Закон: включая контракты, условия обслуживания, политические заявления

Здравоохранение: включая документы для адаптации пациента, шаблоны согласия

Администрация: в том числе руководства по персоналу, протоколы ИТ, контрольные списки соответствия

На этих результатах три грамматические стратегии появлялись неоднократно:

2.1 Примеры пассивных конструкций, такие как: «Данные должны быть сохранены в целях безопасности». Здесь предложение выполняет директивную функцию, не называя актера. Это скрывает источник обязательства. С юридической точки зрения это подрывает обязательную обязанность.

2.2 Примеры номинализации, такие как: «Неспособность соответствовать требованиям представления приведет к отрицанию». Здесь подача глагола превращается в подачу существительного. Человек, который, как ожидается, будет действовать, исключается из структуры предложения. Синтаксис формальный, но он больше не содержит участника.

2.3 Шаблоны инструкций без примеров субъектов, таких как: «Заполните адаптацию перед доступом к записям». Это императивный пункт без предмета. Он направляет поведение, но предложение не дает ни малейшего представления о том, кто должен действовать или кто обеспечивает соблюдение правила.

Каждый из этих примеров грамматически верен. Во многих случаях они соответствуют руководствам по институциональному стилю. Что их объединяет, так это то, что они стирают синтаксически динамика.

Почему это имеет последствия

Где никто не назван, никто не несет ответственности.

В юридическом и институциональном контекстах язык должен не только функционировать, но и должен закрепить обязанности, разрешения и обязательства для идентифицируемых агентов. Положения, которые выполняют функции, не указав, кто вовлечен, создают непримиримые обязательства.

Рассмотрим реальный пример. В марте 2024 года обновление конфиденциальности, сгенерированное AI с финансовой платформы среднего размера, включало эту строку: «Персональные данные могут использоваться для улучшения пользовательского опыта». Актер не был указан. Когда компания оспаривала региональную комиссию по конфиденциальности, компания не смогла продемонстрировать, кто является автором или утверждением приговора. В пункте был признан несоответствующим в соответствии с статьей 5 GDPR.

В статье предлагается понятие порога отслеживания. Это знаменует вопрос о том, что предложение продолжает оказывать официальную власть, но больше не содержит никакого референциального якоря для человека или учреждения. Помимо этого, грамматические функции, такие как код, не описывают. Он выполняет.

Что это раскрывает на языке, управляемом AI

Поскольку государственные и частные учреждения принимают язык, сгенерированный LLM, мы наблюдаем структурную инверсию. Вместо авторов, производящих правила, скомпилированные грамматические формы развернуты для имитации власти. Предложение остается, но оратор отсутствует.

Это изменение не напоминает пропаганду или цензуру. Это появляется через форматирование.

Несколько правительственных учреждений и корпораций в настоящее время экспериментируют с черновиками, генерируемыми LLM для внутреннего использования. Во многих случаях эти проекты развернуты без редактирования. Когда внутренние директивы не несут автора, ни названного подразделения, и нет подписания, они перестают быть коммуникативными. Они становятся синтетическими операциями.

Опасность заключается в появлении нормальности. Эти предложения выглядят профессиональными, ясными и нейтральными. Тем не менее, их нейтралитет не является коммуникативным. Это структурный. Управление сохраняется, но подотчетность растворяется.

Этот сдвиг переопределяет то, что значит для языка управлять.

Ставки

Если мы продолжим принимать язык, который командует без разговора, который регулируется без атрибуции, мы изменяем основы права, политики и институциональной легитимности. Директивы больше не написаны. Они составлены. Важно не то, кто их говорит, а о том, выглядит ли предложение официальным.

Эта логика затрагивает общественные системы. Это также влияет на внутреннее управление. Программное обеспечение для соответствия, автоматизированный аудит, инструменты HR связи и даже муниципальные интерфейсы уже используют текст, сгенерированный AI. Формальное качество увеличивается. Референциальная ясность уменьшается.

Язык продолжает работать. Но динамик больше не требуется.

🔗 Синтаксис статьи без предмета: Структурная делегирование и исчезновение политического агентства в контекстах с управлением LLMhttps://doi.org/10.5281/zenodo.16571077

Agustin V. Startari

Лингвист и исследователь в исторических и искусственных языковых системах

Орцид:https://orcid.org/0009-0001-4714-6539

SSRN Автор ID: 7639915

Идеал

Я не использую искусственный интеллект, чтобы написать то, чего я не знаю. Я использую это, чтобы бросить вызов тому, что я делаю. Я пишу, чтобы вернуть голос в эпоху автоматического нейтралитета. Моя работа не на аутсорсинге. Это написано. - Agustin V. Startari


Оригинал
PREVIOUS ARTICLE
NEXT ARTICLE