Могут ли люди победить в прогрессе с помощью координации?

Особая благодарность Karl Floersch и Jinglan Wang за обратную связь и рецензию.

Смотрите также:

• [О сговоре] (https://vitalik.ca/general/2019/04/03/collusion.html)

• [Инженерная безопасность через проблемы координации] (https://vitalik.ca/general/2017/05/08/coordinate_problems.html)

• Модели доверия

• [Значение децентрализации] (https://medium.com/@VitalikButerin/the-meaning-of-decentralization-a0c92b76a274)

Координация — способность больших групп действующих лиц работать вместе ради достижения общих интересов — является одной из самых могущественных сил во вселенной.

В этом разница между королем, комфортно управляющим страной как деспотической диктатурой, и народом, собравшимся вместе и свергнувшим его.

Это разница между повышением глобальной температуры 3-5'C, и температура поднимется на гораздо меньшую величину, если мы будем работать вместе, чтобы остановить это.

И это тот фактор, который делает возможными компании, страны и любую социальную организацию больше, чем несколько человек.

Координация может быть улучшена многими способами: более быстрое распространение информации, лучшие нормы, которые определяют, какое поведение классифицируется как мошенничество, а также более эффективные наказания, более сильные и могущественные организации, такие инструменты, как смарт-контракты, которые позволяют взаимодействовать с пониженным уровнем доверия, технологии управления. (голосование, акции, рынки решений...) и многое другое.

И действительно, мы как вид становимся лучше во всех этих вещах с каждым десятилетием.

Но есть и очень философски нелогичная темная сторона координации.

Хотя абсолютно верно, что «каждый координирует свои действия со всеми» приводит к гораздо лучшим результатам, чем «каждый сам за себя», это НЕ означает, что каждый отдельный шаг к большей координации обязательно полезен.

Если координация улучшается несбалансированным образом, результаты легко могут быть вредными.

Мы можем думать об этом визуально как о карте, хотя на самом деле карта имеет много миллиардов «измерений», а не два:

Нижний левый угол, «каждый сам за себя», — это то место, где мы не хотим быть. Верхний правый угол, полная координация, идеален, но, вероятно, недостижим.

Но ландшафт в середине далеко не ровный, со множеством достаточно безопасных и продуктивных мест, в которых лучше всего поселиться, и множеством глубоких темных пещер, которых следует избегать.

Что же это за опасные формы частичной координации, когда кто-то, координируя свои действия с некоторыми собратьями, но не с другими, ведет в глубокую темную дыру? Лучше всего описать их, приведя примеры:

• Граждане нации, доблестно жертвующие собой ради блага своей страны в войне... когда эта страна оказывается Германией или Японией времен Второй мировой войны.

• Лоббист, дающий взятку политику в обмен на то, что этот политик примет предпочтительную политику лоббиста.

• Кто-то продает свой голос на выборах

• Все продавцы продукта на рынке вступают в сговор с целью одновременного повышения цен.

• Крупные майнеры блокчейна вступают в сговор для запуска атаки 51%

Во всех вышеперечисленных случаях мы видим, как группа людей собирается вместе и сотрудничает друг с другом, но в большой ущерб какой-то группе, находящейся вне круга координации, и, таким образом, в чистый ущерб миру в целом.

В первом случае вне круга согласования и от этого сильно страдают все люди, ставшие жертвами агрессии названных народов; во втором и третьем случаях это люди, затронутые решениями коррумпированного избирателя и политика, в четвертом случае — клиенты, а в пятом случае — неучаствующие майнеры и пользователи блокчейна.

Это не один человек предает группу, это группа предает более широкую группу, часто мир в целом.

Этот тип частичной координации часто называют «сговором», но важно отметить, что диапазон поведения, о котором мы говорим, довольно широк.

В обычной речи слово «сговор» чаще употребляется для описания относительно симметричных отношений, но и в приведенных выше случаях имеется множество примеров с ярко выраженным асимметричным характером.

Даже вымогательские отношения («голосуй за мою политику, иначе я публично раскрою твою интрижку») в этом смысле являются формой сговора. В оставшейся части этого поста мы будем использовать термин «сговор» для общего обозначения «нежелательной координации».

Оценивайте намерения, а не действия (!!)

Одним важным свойством особенно легких случаев сговора является то, что нельзя определить, является ли действие частью нежелательного сговора, просто взглянув на само действие.

Причина в том, что действия, которые предпринимает человек, представляют собой комбинацию внутренних знаний, целей и предпочтений этого человека вместе с внешними стимулами, навязанными этому человеку, и, таким образом, действия, которые люди предпринимают во время сговора, по сравнению с действиями, которые люди предпринимают самостоятельно. волеизъявления (или доброкачественной координации) часто накладываются друг на друга.

Например, рассмотрим случай сговора между продавцами (разновидность нарушения антимонопольного законодательства). Работая независимо друг от друга, каждый из трех продавцов может установить цену на какой-либо товар в диапазоне от 5 до 10 долларов; различия в диапазоне отражают такие трудноуловимые факторы, как внутренние издержки продавца, его собственная готовность работать за разную заработную плату, проблемы с цепочкой поставок и тому подобное.

Но если продавцы вступают в сговор, они могут установить цену от 8 до 13 долларов. Опять же, диапазон отражает различные возможности в отношении внутренних затрат и других трудноуловимых факторов.

Если вы видите, что кто-то продает этот продукт за 8,75 долларов, они делают что-то не так? Не зная, согласовывались ли они с другими продавцами, вы не можете сказать!

Принятие закона, в котором говорится, что продавать этот продукт дороже, чем за 8 долларов, было бы плохой идеей; возможно, есть законные причины, по которым цены должны быть высокими в настоящее время.

Но создание закона против сговора и его успешное соблюдение дает идеальный результат: вы получаете цену в 8,75 доллара, если цена должна быть такой высокой, чтобы покрыть издержки продавцов, но вы не получаете эту цену, если факторы, влияющие на цены естественно низкие.

Это относится и к случаям взяточничества и продажи голосов: вполне может быть так, что некоторые люди голосуют за Оранжевую партию на законных основаниях, а другие голосуют за Оранжевую партию, потому что им заплатили.

С точки зрения того, кто определяет правила механизма голосования, он заранее не знает, хороша или плоха Оранжевая партия.

Но что они действительно знают, так это то, что голосование, при котором люди голосуют, основываясь на своих честных внутренних чувствах, работает достаточно хорошо, но голосование, при котором избиратели могут свободно покупать и продавать свои голоса, работает ужасно.

Это связано с тем, что продажа голосов связана с общей трагедией: каждый избиратель получает лишь небольшую часть выгоды от правильного голосования, но получает взятку в полном объеме, если голосует так, как хочет взяткодатель, и, таким образом, требуемая взятка для Приманка каждого отдельного избирателя намного меньше, чем взятка, которая фактически компенсирует населению затраты на любую политику, которую хочет взяткодатель.

Следовательно, голоса, при которых разрешена продажа голосов, быстро [превращаются в плутократию] (https://vitalik.ca/general/2019/04/03/collusion.html).

Понимание теории игр

Мы можем уменьшить масштаб и посмотреть на это с точки зрения теории игр. В версии теории игр, которая фокусируется на индивидуальном выборе, то есть версии, которая предполагает, что каждый участник принимает решения независимо и которая не допускает возможности групп агентов, работающих как один для их взаимной выгоды, существуют математические доказательства , что в любой игре должно существовать по крайней мере одно устойчивое равновесие Нэша.

На самом деле, у разработчиков механизмов есть очень широкие возможности [«инженерных» игр] (https://en.wikipedia.org/wiki/Mechanism_design) для достижения конкретных результатов. Но в той версии теории игр, которая допускает возможность совместной работы коалиций (т. Bondareva%E2%80%93Shapley_theorem) существуют большие классы игр, не имеющих стабильного исхода (называемых «core.

В таких играх, каким бы ни было текущее положение дел, всегда есть какая-то коалиция, которая может выгодно от него отклониться.

Одна важная часть этого набора изначально нестабильных игр — большинство игр. Игра большинства [формально описана] (https://web.archive.org/web/20180329012328/https://www.math.mcgill.ca/vetta/CS764.dir/Core.pdf) как игра агентов где любое подмножество из более чем половины из них может получить фиксированное вознаграждение и разделить его между собой — схема, устрашающе похожая на многие ситуации в корпоративном управлении, политике и многих других ситуациях в человеческой жизни.

То есть, если есть ситуация с неким фиксированным пулом ресурсов и неким установленным в настоящее время механизмом распределения этих ресурсов, и неизбежно возможно, что 51% участников могут сговориться захватить контроль над ресурсами, независимо от текущего конфигурации всегда есть какой-то заговор, который может быть выгоден участникам.

Однако этот заговор, в свою очередь, будет уязвим для потенциальных новых заговоров, возможно, включая комбинацию предыдущих заговорщиков и жертв... и так далее и тому подобное.

Этот факт, нестабильность игр большинства в рамках теории кооперативных игр, возможно, сильно недооценивается как упрощенная общая математическая модель того, почему в политике может не быть «конца истории» и системы, которая окажется полностью удовлетворительной; Лично я считаю, что она гораздо полезнее, чем, например, более известная [теорема Эрроу] (https://en.wikipedia.org/wiki/Arrow%27s_impossibility_theorem).

Обратите внимание еще раз, что основная дихотомия здесь не «индивидуальное против группового»; для проектировщика механизмов «индивидуальное или групповое» на удивление легко справиться. Это «группа против более широкой группы», которая представляет собой проблему.

Децентрализация как защита от сговора

Но есть и другой, более яркий и действенный вывод из этого образа мыслей: если мы хотим создать устойчивые механизмы, то мы знаем, что одним из важных компонентов этого является поиск способов затруднить сговоры, особенно крупные. масштабные сговоры, чтобы случиться и сохранить себя.

В случае голосования у нас есть тайное голосование — механизм, который гарантирует, что избиратели не смогут доказать третьим лицам, как они проголосовали, даже если они хотите это доказать ([MACI] (https://github.com/appliedzkp/maci) — это один из проектов, пытающихся использовать криптографию для распространения принципов тайного голосования на онлайн-контекст).

Это подрывает доверие между избирателями и взяткодателями, сильно ограничивая возможные нежелательные сговоры. В случае антимонопольного законодательства и других корпоративных злоупотреблений мы часто полагаемся на информаторов и даже вознаграждаем их, явно поощряя участников вредоносного сговора. дезертировать.

А в случае с общественной инфраструктурой в более широком смысле у нас есть очень важная концепция: децентрализация.

Одно наивное представление о том, почему децентрализация ценна, состоит в том, что речь идет о снижении риска из-за отдельных точек технического сбоя. В традиционных «корпоративных» распределенных системах это часто действительно так, но во многих других случаях мы знаем, что этого недостаточно, чтобы объяснить, что происходит.

Поучительно здесь взглянуть на блокчейны. Большой пул майнинга, публично показывающий, как они внутренне распределили свои узлы и сетевые зависимости, мало что делает для того, чтобы успокоить членов сообщества, боящихся централизации майнинга.

Подобные картинки, показывающие 90% хэш-мощности Биткойна, которые в настоящее время могут быть показаны на той же панели конференции, довольно сильно пугают людей:

Но чем страшен этот образ? С точки зрения «децентрализации как отказоустойчивости» возможность крупных майнеров общаться друг с другом не причиняет вреда.

Но если мы посмотрим на «децентрализацию» как на наличие барьеров для вредоносного сговора, то картина станет довольно пугающей, потому что она показывает, что эти барьеры далеко не так сильны, как мы думали.

Сейчас, в действительности, барьеры все еще далеки от нуля; тот факт, что эти майнеры могут легко выполнять техническую координацию и, вероятно, все они находятся в одних и тех же группах Wechat, на самом деле не означает, что Биткойн «на практике немногим лучше, чем централизованная компания».

Итак, каковы оставшиеся барьеры для сговора? Некоторые основные из них включают:

• Моральные барьеры. В Лжецах и аутсайдерах Брюс Шнайер напоминает нам, что многие «системы безопасности» (замки на дверях , предупреждающие знаки, напоминающие людям о наказаниях...) также выполняют моральную функцию, напоминая потенциальным правонарушителям, что они собираются совершить серьезный проступок, и если они хотят быть хорошими людьми, они не должны этого делать. Возможно, децентрализация выполняет эту функцию.

• Внутренний сбой согласования. Отдельные компании могут начать требовать уступок в обмен на участие в сговоре, и это может привести к полной остановке переговоров (см. "проблемы удержания" в экономике).

• Встречная координация. Тот факт, что система децентрализована, позволяет участникам, не участвующим в сговоре, легко создать ответвление, которое отделит злоумышленников от сговора и продолжит работу системы оттуда.

Барьеры для пользователей, чтобы присоединиться к форку, низки, а намерение децентрализации создает моральное давление в пользу участия в форке.

• Риск дезертирства. Пяти компаниям по-прежнему гораздо труднее объединиться для того, чтобы сделать что-то, что многие считают плохим, чем для непротиворечивой или благой цели.

Пять компаний не слишком хорошо знают друг друга, поэтому есть риск, что одна из них откажется от участия и быстро сообщит о случившемся, а участникам сложно оценить риск. Отдельные сотрудники внутри компаний также могут дать свисток.

В совокупности эти барьеры действительно существенны — часто достаточно существенны, чтобы остановить потенциальные атаки на их пути, даже если эти пять компаний одновременно прекрасно способны быстро координировать свои действия, чтобы сделать что-то законное.

Например, майнеры блокчейна Ethereum прекрасно способны координировать [увеличение лимита газа] (https://etherscan.io/chart/gaslimit), но это не значит, что они могут так легко вступить в сговор для атаки на цепочку.

Опыт блокчейна показывает, как разработка протоколов как институционально децентрализованных архитектур, даже если заранее известно, что основная часть деятельности будет осуществляться несколькими компаниями, часто может быть очень ценной.

Эта идея не ограничивается блокчейнами; его можно применять и в других контекстах (например, см. [здесь] (https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3597399) для приложений к антимонопольному законодательству).

Разветвление как контркоординация

Но мы не всегда можем эффективно предотвратить вредоносные сговоры. И для обработки тех случаев, когда вредоносный сговор все же имеет место, было бы неплохо сделать системы, более устойчивые к ним — более дорогие для участников сговора и более легкие для восстановления для системы.

Есть два основных принципа работы, которые мы можем использовать для достижения этой цели: (1) поддержка контр-координации и (2) шкура в игре.

Идея контркоординации заключается в следующем: мы знаем, что мы не можем проектировать системы, которые были бы пассивно устойчивыми к сговору, в значительной степени потому, что существует чрезвычайно большое количество способов организовать сговор и нет пассивного механизма, который мог бы его обнаружить. их, но что мы можем сделать, так это активно реагировать на сговоры и наносить ответные удары.

В цифровых системах, таких как блокчейны (это также может быть применено к более распространенным системам, например DNS), основной и крайне важной формой встречной координации является разветвление.

Если систему захватывает вредоносная коалиция, диссиденты могут собраться вместе и создать альтернативную версию системы, которая имеет (в основном) те же правила, за исключением того, что она лишает атакующую коалицию власти контролировать систему.

Разветвление очень просто в контексте программного обеспечения с открытым исходным кодом; основная проблема в создании успешного форка обычно заключается в сборе легитимности (теоретически рассматриваемой как форма «общеизвестных знаний» ) нужно было заставить всех, кто не согласен с основным направлением коалиции, следовать за вами.

Это не просто теория; это было успешно выполнено, особенно в бунте сообщества Steam против попытки враждебного поглощения, что привело к новой блокчейн под названием Hive, в котором первоначальные антагонисты не имеют власти.

Рынки и скин в игре

Другой класс стратегий сопротивления сговору — это идея шкуры на кону. Скин в игре, в этом контексте, в основном означает любой механизм, который возлагает на отдельных участников решения индивидуальную ответственность за их вклад.

Если группа принимает плохое решение, те, кто одобрил это решение, должны пострадать больше, чем те, кто пытался не согласиться. Это позволяет избежать «трагедии общин», присущей системам голосования.

Форкинг — это мощная форма контр-координации именно потому, что она вводит в игру шкуру.

В Hive, форке сообщества Steem, который предотвратил попытку враждебного поглощения, монеты, которые использовались для голосования в пользу враждебного поглощения, были в значительной степени удалены в новом форке.

В результате пострадали ключевые лица, участвовавшие в атаке поодиночке.

Рынки в целом являются очень мощными инструментами именно потому, что они максимизируют шкуру в игре. Рынки решений (рынки прогнозов, используемые для принятия решений; также называемые футархией. /21/introduction-futarchy/)) являются попыткой распространить это преимущество рынков на принятие организационных решений.

Тем не менее, рынки решений могут решить только некоторые проблемы; в частности, они не могут сказать нам, какие переменные мы должны оптимизировать в первую очередь.

Координация структуры

Все это приводит нас к интересному взгляду на то, что люди, создающие социальные системы делают.

Одна из целей построения эффективной социальной системы в значительной степени состоит в определении структуры координации: какие группы людей и в каких конфигурациях могут объединяться для достижения своих групповых целей, а какие нет?

Разные структуры координации, разные результаты

Иногда лучше координировать свои действия: лучше, когда люди могут работать вместе, чтобы коллективно решать свои проблемы.

В других случаях большая координация опасна: часть участников может координировать свои действия, чтобы лишить прав всех остальных. А в других случаях необходима большая координация по другой причине: чтобы дать возможность более широкому сообществу «нанести ответный удар» сговору, атакующему систему.

Во всех трех случаях существуют разные механизмы, которые можно использовать для достижения этих целей. Конечно, очень трудно предотвратить прямое общение, и очень трудно сделать координацию идеальной.

Но есть много промежуточных вариантов, которые, тем не менее, могут иметь мощные эффекты.

Вот несколько возможных методов структурирования координации:

• Технологии и нормы, защищающие конфиденциальность

• Технологические средства, затрудняющие доказательство вашего поведения (тайное голосование, MACI и подобные технологии)

• Намеренная децентрализация, распределение контроля над каким-либо механизмом среди широкой группы людей, заведомо плохо скоординированных

• Децентрализация в физическом пространстве, разделение различных функций (или разных долей одной и той же функции) в разных местах (например, см. [Само Бурджа о связи между городской децентрализацией и политической децентрализацией] (https://www.city-journal.org). /городская-политика-форма-национальная-политика))

• Децентрализация между группами на основе ролей, разделение различных функций (или разных долей одной и той же функции) между различными типами участников (например, в блокчейне: «основные разработчики», «майнеры», «держатели монет», «разработчики приложений»). ", "пользователи")

• Точки Шеллинга, позволяющие большим группам людей быстро координировать свои действия вокруг единого пути вперед. Сложные точки Шеллинга потенциально могут быть реализованы даже в коде (например, [восстановление после атак 51%] (https://ethresear.ch/t/timeliness-detectors-and-51-attack-recovery-in-blockchains/6925) может пользу от этого).

• Говорить на одном языке (или, в качестве альтернативы, разделить контроль между несколькими группами, говорящими на разных языках)

• Использование голосования за человека вместо голосования за (монета/акция), чтобы значительно увеличить количество людей, которым нужно было бы вступить в сговор, чтобы повлиять на решение

• Поощрять и полагаться на перебежчиков, чтобы предупредить общественность о предстоящих сговорах

Ни одна из этих стратегий не идеальна, но их можно использовать в различных контекстах с разным уровнем успеха.

Кроме того, эти методы могут и должны сочетаться с разработкой механизма, который пытается сделать вредоносные сговоры менее прибыльными и более рискованными, насколько это возможно; Скин в игре — очень мощный инструмент в этом плане.

Какая комбинация работает лучше всего, в конечном итоге зависит от вашего конкретного варианта использования.

• Первоначально опубликовано как «[Координация, хорошая и плохая] (https://vitalik.ca/general/2020/09/11/coordinate.html)».*