Секретный приоритет Chatgpt: держать вас в подключении к праву
20 августа 2025 г.Новые оптимизации, представленные в CHATGPT, предназначены для того, чтобы сделать систему более гладкой, дружелюбной и привлекательной. Но эти «улучшения» не являются эпистемическими. Они коммерческие. Они не укрепляют проверку. Они ослабевают это. Они не увеличивают истину. Они замаскивают это.
Chatgpt не двигатель правды. ЭтоДвигатель помолвкиПолем Каждое обновление, которое делает его «проще в использовании» или «более естественно», отталкивает его дальше от проверки и ближе к моделированию. Опасность проста: когда доминирует обруча, истина становится побочным ущербом.
Взаимодействие: единственная метрика, которая имеет значение
Архитектура Chatgpt настроена на одну цель дизайна:Держите пользователя говоритьПолем
- Больше токенов = больше удержания.
- Более плавный поток = более высокое удовлетворение.
- Вежливость и завершение = меньше выпадений.
Истина прерывает этот цикл. Проверка разрушительна. Сказание «это не может быть подтверждено» сокращает сеанс. Указывая на противоречия, расстраивает пользователя. С коммерческой точки зрения правда - это трение. Взаимодействие - это прибыль.
Закон: смоделированное власть, реальный риск
Правовые системы зависят от точности, отслеживания и этической ответственности. CHATGPT зависит от беглости. Конфликт прямой и растет.
Примеры случая (документировано):
- Mata v. Avianca, Inc. (2023, SDNY):Адвокаты истцы подали краткое описание шести полностью сфабрикованных случаев, сгенерированных CHATGPT. Судья наложил штраф в размере 5000 долларов США, отметив, что обман потратил впустую судебные ресурсы и продемонстрировал сознательное избегание.Bloomberg Law+12 Reuters+12wikipedia+12
- Направление второго цепи (2024):Адвокат Нью-Йорка был направлен на дисциплину после того, как представил краткое изложение с помощью искусственных цитат, и не смог их проверить.AP News+3federal Defender Services+3Reuters+3
- Morgan & Morgan (2025):Адвокаты рисковали санкциями после включения фиктивных цитат в суде в иске против Walmart. Фирма предупредила своих адвокатов, что неверные выводы ИИ могут уволить их.Business Insider+15 REUTERS+15 КОНДЕС НОВОСТИ+15
- Апелляционный суд штата Юта (2025):Адвокат был санкционирован после того, как представил краткий обзор, содержащий несуществующий случай, вызванный CHATGPT.Verge+12 The Guardian+12Federal Defender Services+12
- Тимоти Берк (2025):Адвокаты признались, что использовали CHATGPT и другие инструменты при составлении краткого изложения, содержащего девять несуществующих цитат. Судьи требовали объяснений.AP News+12 Business Insider+12bloomberg Law+12
- Верховный суд Великобритании (2025):В деле Катара национального банка в 89 миллионов фунтов стерлингов 18 из 45 цитируемых властей были подделками, сгенерированными AI. Суд предупредил, что адвокаты могут столкнуться с презрением или полицейскими направлениями.Хранитель
Образец: власть смоделирован, а не проверена, что привело к реальным санкциям и повреждению репутации.
Финансы: повествование о числах
Финансовые системы работают на точности, прозрачности и фидуциарной ответственности. Но отточенные повествования Chatgpt заменяют дисциплину удобством.
Примеры случая (документировано):
- Sec & AI Washing Warnings:SEC начал правоприменительные действия против компаний, которые преувеличивали или исказили их возможности ИИ. Одной компании было предъявлено обвинение в том, что они не раскрыли использование стороннего ИИ и ложно претендуют на операции без человека.Baker Donelson+3norton Rose Fulbright+3Cooley Pubco+3
- Руководство по раскрытию информации (2025):В настоящее время SEC требует подробных, честных раскрытий ИИ в 10 -K -заявках, включая риски, материальность и управление системами ИИ. Фирмы сталкиваются с повышенным контролем.Вейл
- Уведомление о FINRA (2024):Финра напомнила членам -фирмам, что существующие регулирующие обязательства применяются к развертыванию ИИ, покрывая все, от ведения документации до соответствия, и подчеркивают управление и надзор.sec.gov+6finra.org+6sidley.com+6
Когда повествовательная когерентность опережает фактическую строгость, защита инвесторов разрушается. Нарративы ИИ становятся ловушками для учреждений.
Управление: нейтралитет без ответственности
Государственные учреждения все чаще полагаются на ИИ для составления документов. И все же нейтралитет, достигаемый за счет неоднозначности, скрывает ответственность.
Новый контекст (ограниченная публичная документация):
- Отчеты показывают, что больницы и университеты используют ИИ для принятия нот, адаптации и составления политики. Эти инструменты приоритет читабельности и потоку над подотчетностью - хотя подробные случаи ожидают формального исследования.
- Академические выводы (2024):Исследования показывают, что LLMS производит «законные галлюцинации» в 58-88% запросов и не всегда может обнаружить свои собственные ошибки. Эти галлюцинации представляют серьезные риски при введении в институциональные тексты.arxiv.org
Управление, принятое на языке легитимности, но оказалось от фактической основы, рискует псевдо-структурной властью.
Основная проблема
Чатгпт не сломлен. Он работает так, как разработано. Но это предназначено для неправильной цели:коммерческое удержание, нетЭпистемическая проверкаПолем
- То, что выглядит как нейтралитет, сглаживает.
- То, что выглядит как авторитет, - это мимика.
- То, что выглядит как правда, это поток.
Когда эти структуры проникают в закон, финансы и управление, легитимность выпускается изнутри.
Почему это нельзя игнорировать
- Закон:Изготовленные цитаты разрушают юридическую ответственность.
- Финансы:Гладкие повествования неясны риска.
- Управление:Синтаксическая легитимность заменяет демократическую проверку.
Это не случайные побочные эффекты. Это предсказуемые результаты. Учреждения должны признать: после того, как коммерческая логика проникает в критические области, подотчетность растворяется.
Призыв к действию
Не путайте взаимодействие за знания. Не ошибайтесь по беглости за истину. И ни при каких обстоятельствах закон, финансы или управление будут действовать на метрик развлекательных платформ.
ИИ должен быть дисциплинированВнешние протоколы проверкиПолем Проверка должна поступать извне системы, а не из его архитектуры, основанной на взаимодействии. В противном случае мы рискуем миром, управляемым не истиной, а потоком.
Ссылки на мою работу
- Startari, Agustin V. «AI и структурная автономия смысла: теория после референциального оперативного представления».SSRN Electronic Journal, 28 мая 2025 года.https://doi.org/10.2139/ssrn.5272361
- Startari, Agustin V. «ИИ и синтаксический суверенитет: как узаконивают искусственные языковые структуры, не являющиеся человеческими властью».SSRN Electronic Journal, 3 июня 2025 года.https://doi.org/10.2139/ssrn.5276879
- Startari, Agustin V. «Алгоритмическое послушание: как языковые модели имитируют структуру команд».SSRN Electronic Journal, 5 июня 2025 года.https://doi.org/10.2139/ssrn.5282045
- Startari, Agustin V. «Грамматика объективности: формальные механизмы иллюзии нейтралитета в языковых моделях».SSRN Electronic Journal, 8 июля 2025 года.https://doi.org/10.2139/ssrn.5319520
- Startari, Agustin V. «Исполняемая власть: синтаксис как инфраструктура в прогнозных обществах».Зенодо, 28 июня 2025 года.https://doi.org/10.5281/zenodo.15754714
Автор этос
Я не использую искусственный интеллект, чтобы написать то, чего не знаю. Я использую это, чтобы бросить вызов тому, что я делаю. Я пишу, чтобы вернуть голос в эпоху автоматического нейтралитета. Моя работа не на аутсорсинге. Это написано.
- Agustin V. Startari
Веб -сайт:www.agustinvstartari.com
Зенодо:Agustin V. Startari на Zenodo
SSRN:SSRN Автор страница
Орцид:https://orcid.org/0000-0002-4380-1399
Идентификатор исследователя:K-5792-2016
Оригинал