Поворотный момент в области искусственного интеллекта : лидеры объединяются в поддержку инициативы в области естественного искусственного интеллекта

«По общему мнению подписантов и участников круглого стола разрабатывается новое поколение искусственного интеллекта, основанное на научных принципах и открытиях. Этот подход не не требует монолитных моделей и массивной обработки, но способен к адаптивному обучению с гораздо меньшими вычислительными ресурсами, чем нынешние LLM». — Джон Генри Клиппингер, Bioform Labs

Новое поколение искусственного интеллекта действительно находится в стадии реализации. Фактически, основные стандарты для его структуры разрабатывались совместно с IEEE более трех лет. Этот метод искусственного интеллекта уже работает, и его разработкой руководит компания VERSES AI, которая после нескольких лет работы с частными пилотами и международными программами в настоящее время находится в стадии бета-тестирования для своей платформы Genius™ вместе с такими партнерами, как NASA, Volvo и другими, и имеет планы чтобы сделать его доступным для общественности в 2024 году.

Письмо и круглый стол: ученые призывают к более естественному и демократическому будущему искусственного интеллекта

Основная дискуссия за круглым столом, проведенная Бостонским глобальным форумом, Институтом активного вывода и Программой нейропсихиатрии и общества 12 декабря 2023 года, ознаменовала важный поворотный момент в нашем понимании и развитии искусственного интеллекта< /а>.

Эта группа лидеров собралась вместе, чтобы обсудить письмо, подписанное 25 нейробиологами, биологами, физиками, политиками, исследователями ИИ, предпринимателями и директорами исследовательских лабораторий, о совместной инициативе, предлагающей радикальное переосмысление траектории ИИ, выступающей за модель ИИ, которая принципиально отличается от ресурсоемких и дорогостоящих систем, которые доминируют в современном мире.

Их встреча означает растущую динамику нового подхода к искусственному интеллекту под названием «Активный вывод», разработанному всемирно известным нейробиологом доктором Карлом Фристоном, главным научным сотрудником VERSES AI, который ведет к созданию более прозрачных, этичных и полезных интеллектуальных систем.< /strong>

Эта совместная инициатива «Естественный ИИ, основанный на науке вычислительной физики и нейронауки: политика и социальное значение», предлагает новую публичную идеологию и программу исследований, которая переосмысливает ИИ как расширение тех самых принципов, которые управляют самой жизнью  –  основанных на физика и биология жизни. (Письмо полностью приведено в конце этой статьи.)

Это письмо, представленное мировыми лидерами, в котором подчеркивается эта инициатива, ставит под сомнение нынешнюю зависимость от моделей большого языка (LLM) и моделей-трансформеров, которые, хотя и впечатляют, основаны больше на инженерной изобретательности, чем на понимании основных процессов жизни. Это предполагает, что система, смоделированная по образцу биологических процессов, будет более эффективной, требующей меньше вычислительной мощности и предлагающей большую адаптируемость. Этот подход будет представлять собой отход от искусственного интеллекта как инструмент для воспроизведения человеческих задач в ИИ как организме, который обучается и развивается в соответствии с биологическими и физическими принципами.

Их краткое, но убедительное послание бросает вызов широко распространённым взглядам и обрисовывает альтернативное видение технологий, более соответствующее научным реалиям.

Переосмысление доминирующей парадигмы искусственного интеллекта

Недавний взрыв больших нейронных сетей, таких как модели больших языков (LLM) и модели-трансформеры, хотя и демонстрирует замечательные достижения в языковой обработке и генерации контента, также вызывает серьезные опасения. Их огромный масштаб и вычислительная сложность делают их непрозрачными «черными ящиками», которые плохо понимаются, их трудно контролировать и которые демонстрируют вредные предубеждения, а также множество других проблем.

Стремясь сформировать новую общественную позицию и программу исследований вокруг естественного ИИ, основанного на науке вычислительной физики и нейронауки, с глубокими последствиями для политики и общественного благосостояния, это письмо предостерегает от увековечения этих «корпусных» моделей без прочной основы. научная основа или стандарты деятельности, отмечая, что они могут представлять «экзистенциальную» угрозу человечеству, если их не остановить.

Между тем, стремительный прогресс таких систем, как ChatGPT, породил спекулятивные заявления об «общем искусственном интеллекте» и экзистенциальных угрозах. Тем не менее, существует мало научных доказательств того, что нынешние системы искусственного интеллекта имеют какое-либо значимое сходство с человеческим или биологическим интеллектом. Как следует из этого письма, более серьезные риски возникают из-за чрезмерного ажиотажа и непонимания вокруг них.

Подписавшие письмо за круглым столом утверждают, что существует более заслуживающий доверия и научный путь к более безопасным и заслуживающим доверия системам искусственного интеллекта, вдохновленным процессами самой жизни. Этот путь — путь VERSES AI  —  Активный вывод.

Наука, лежащая в основе искусственного интеллекта с активным выводом

В основе этой идеи лежит открытие принципа свободной энергии. доктора Карла Фристона, главного научного сотрудника VERSES AI, который демонстрирует, что все живые существа стараются сохранить свою идентичность, сводя к минимуму неожиданности в меняющейся окружающей среде. Это стремление математически выражается в необходимости минимизировать «вариационную свободную энергию». Затем модели смогут самоорганизовать восприятие и действия в соответствии с присущими им целями и знаниями о мире.

Доктор Фристон, который разрабатывал эту методологию на протяжении многих лет, присоединился к VERSES, чтобы коммерциализировать этот процесс и сделать его доступным для использования во всем мире.

Активный вывод ИИ опирается на достижения в области вычислительной нейробиологии, биологии и статистической физики для создания интеллектуальных систем, отображающих ключевые атрибуты естественной жизни, включая автономность, адаптивность и целенаправленность.

Активный вывод позволил создать распределенную сеть общего интеллекта, содержащую множество интеллектуальных агентов, взаимодействующих друг с другом и людьми, которые воспринимают, обучаются и действуют в мире в режиме реального времени. Активные агенты вывода объяснимы, программируемы и проверяемы. Это искусственный интеллект, который обеспечивает безопасные и надежные автономные интеллектуальные системы. АИС, которая может выполнять критически важные операции.

В отличие от сегодняшних гигантских, но хрупких нейронных сетей, системы активного вывода продолжают работать с прозрачностью на границе, а не требуют постоянного подключения к удаленным мегацентрам обработки данных. Это делает их доступными для проверки, выравнивания и контроля.

Политика и социальные последствия

Более широкое понимание научной осуществимости более безопасных, децентрализованных подходов к ИИ может положительно изменить политические дискуссии в этой области. Вместо того, чтобы отказываться от неконтролируемых технологических сил, регулирующие органы могут действовать с обоснованным оптимизмом в отношении информационных и коммуникационных технологий на благо общества.

Летом 2023 года VERSES AI опубликовала новаторский отчет об управлении искусственным интеллектом в сотрудничестве с юридической фирмой Dentons и Spatial Web Foundation. Этот отчет под названием «Будущее глобального управления ИИ» глубоко погружается в уникальные свойства ИИ с активным выводом, которые позиционируют его как потенциальный лидер в создании структуры управления вокруг автономных систем. Структура, которая адаптируется к различиям в социокультурных различиях и может масштабироваться, обеспечивая гибкость для разных уровней развития способностей ИИ, а также учитывая и адаптируясь к соображениям и удобству управления требованиями. для различных автономных достижений, связанных с отношениями человека и машины.

Переход к распределенному, многомасштабному и заслуживающему доверия искусственному интеллекту не обязательно должен зависеть от повестки дня или ресурсов лидеров крупных технологических компаний. Альтернативные экосистемы инноваций могут процветать вокруг создания «ИИ для людей и планеты».

Биологический проект: новое направление развития ИИ

В письме, представленном на этом круглом столе, приводится довод в пользу подхода к ИИ, который отражает адаптивность и эффективность, присущие естественным нейронным системам. Это подчеркивает, что текущие модели ИИ не только ресурсоемки, но и не соответствуют требованиям в самообъяснении, саморефлексии и самокоррекции  —  характерностях, присущих биологическим организмам. Объединив эти естественные черты, ИИ может достичь уровня автономии и эффективности, который ранее был недостижим.

Более того, применение принципа свободной энергии из нейробиологии, который предполагает, что все живые системы стремятся минимизировать свободную энергию для поддержания гомеостаза, может стать научной основой для разработки таких систем искусственного интеллекта. Этот принцип может привести к созданию ИИ, который будет не только энерго- эффективный, но в то же время самоорганизующийся, способный адаптироваться к новой среде и вызовам аналогично живым организмам. Если отдать приоритет этим биологическим и физическим принципам, развитие ИИ станет более устойчивым, доступным и децентрализованным. , разрушая нынешнюю монополию крупных технологических компаний на передовые системы искусственного интеллекта.

Благоприятные перспективы общего естественного интеллекта

Здесь концепция выходит за рамки технических аспектов ИИ и углубляется в его социальные последствия. В письме предлагается, чтобы интеграция искусственного интеллекта с человеческим интеллектом была выгодной и гармоничной, а не конкурентной или антагонистической. Предполагаемый искусственный интеллект работает вместе с человеческим интеллектом, расширяя наши когнитивные способности и решая социальные проблемы в таких областях, как здравоохранение, образование и охрана окружающей среды.

Более того, призыв к действию в конце письма — это призыв к междисциплинарному подходу к этой новой форме ИИ. В нем подчеркивается необходимость проведения семинаров и дискуссий между различными заинтересованными сторонами, включая законодателей, технологов, ученых и общественность, чтобы гарантировать, что развитие ИИ соответствует этическим стандартам и потребностям общества. Такой совместный подход имеет решающее значение для создания не только передовых, но и справедливых и инклюзивных технологий искусственного интеллекта.

По совпадению, VERSES AI, Dentons и Spatial Web Foundation предложили глобальную нормативную «песочницу» под названием «Проект Прометей», основанную на основных технических стандартах. Эта государственно-частная инициатива предлагает среду для совместной работы, которую можно использовать для тестирования. и согласование новых технологий искусственного интеллекта с подходящей нормативной базой, использование передовых технологий искусственного интеллекта и моделирования, создание среды, в которой мы можем планировать будущее и тестировать социотехнические стандарты до их широкого внедрения.

Эта «песочница» позволяет правительствам, разработчикам технологий и исследователям итеративно развертывать, оценивать и обсуждать влияние новых технологий и стандартов, предоставляя ценную информацию о том, как новые технологии могут соответствовать существующим правилам и как, возможно, потребуется скорректировать новую нормативную базу. Он также предоставляет заинтересованным сторонам среду для экспериментов, получения информации и адаптации правил, тем самым снижая барьеры для входа и продвигая инновации. Эта инициатива, использующая опыт и ресурсы как государственного, так и частного секторов, направлена ​​на создание эффективной нормативной базы для все более автономных систем ИИ, позиционируя ИИ как возможность, а не угрозу.

Этот круглый стол между этими лидерами 12 декабря 2023 г., подчеркнул широкий консенсус относительно потенциальных просоциальных преимуществ такого подхода, подчеркнув необходимость новой политики и нормативной базы для управления его развитием. Участники согласились, что, хотя новое направление развития ИИ обещает значительные преимущества , это требует тесного сотрудничества между учеными, политиками, технологами и обществом в целом, чтобы обеспечить его этическую и выгодную реализацию.

Коллективное продвижение к устойчивому будущему ИИ

Совместные усилия Института активного вывода, Программы нейропсихиатрии и общества и Бостонский глобальный форум, инициировавший этот круглый стол, и сопровождающее его письмо представляют собой поворотный момент для ИИ. Это призыв пересмотреть наш нынешний путь и двигаться к будущему, в котором ИИ будет развиваться не как изолированное технологическое направление, а как неотъемлемая часть более широкой экосистемы разумной жизни.

Представленные предложения отражают глубокое понимание как потенциала, так и подводных камней существующих моделей ИИ, а также предлагают видение ИИ, который является самостоятельным. объяснительный, саморефлексивный и самокорректирующийся, не ограниченный ограничениями крупных технологических компаний из-за высоких вычислительных затрат. В письме и за круглым столом пропагандируется искусственный интеллект, который является распределенным, энергоэффективным и способен работа на мобильных устройствах, обеспечение конфиденциальности, безопасности и демократического использования, предложение будущего искусственного интеллекта, которое является энергоэффективным, самодостаточным и, что наиболее важно, находится в гармонии с принципами, управляющими всей жизнью  —  все качества и преимущества активного вывода ИИ.

Значение этой встречи и письма, которое ей предшествовало, заключается в том, что они могут изменить весь ландшафт развития и политики ИИ, продвигая нас к будущему, где «естественный», а не «искусственный» ИИ поддерживает и усиливает лучшие качества ИИ. человеческий и природный интеллект. Приняв искусственный интеллект, основанный на научных реалиях, а не на научно-фантастических стереотипах, общество сможет преодолеть разжигание страха и вместе двигаться к технологиям для всеобщего блага.

Мы можем с нетерпением ждать будущего, в котором ИИ будет работать в партнерстве и сотрудничестве с людьми, а не заменять нас или угрожать нам. Но сейчас нам необходимо объединиться, выйдя за рамки узких интересов, чтобы сделать этот позитивный и полезный путь реальностью для глобального блага.

• Круглый стол был инициирован Дэвидом Зильберсвейгом, бывшим деканом Гарвардской медицинской школы и содиректором Центра нейронаук.
• За ним последовала Сэнди Пентланд из MIT Connection Science.
• Джон Генри Клиппингер из Bioform Labs
• Том Келер из CrowdSmart
• Кэмерон Керри, бывший министр юстиции. торговли
• Назли Чукри, политология Массачусетского технологического института
• Пол Немиц из ЕС и Франческа Лапента из Университета Джона Кэбота, Рим
• Нгуен Ань Туан, директор Бостонского глобального форума

ПИСЬМО:

Естественный искусственный интеллект, основанный на науках вычислительной физики, биологии и нейронауки: политика и общественная значимость

12 декабря 2023 г.

Введение:

Удивительные достижения моделей большого языка (LLM) и моделей-трансформеров превзошли ожидания даже их самых ярых сторонников. Фундаментальные успехи были достигнуты в открытии возможностей марковских процессов, тензорных сетей, преобразователей и контекстно-зависимых механизмов внимания. Эти достижения были обусловлены не конкретными научными гипотезами, а чистой инженерной изобретательностью в применении математических и новых методов машинного обучения. Такие подходы опираются на огромные вычислительные возможности для генерации и объединения миллиардов параметров в модели и выходные данные, которые достигают результатов, связанных с ожиданиями их создателей. Несмотря на значительный прогресс в производительности систем, потенциальных вариантах использования и внедрении таких систем, никакие научные принципы или независимые стандарты производительности не ссылались и не применялись для направления исследований и разработок, а также для оценки адекватности их результатов или контекстуальной приемлемости их производительности. . Следовательно, все текущие модели LLM и Transformer являются «корпусными», а их критерии установки параметров ограничены недоступным и не поддающимся расшифровке стохастическим «черным ящиком».

Быстрое развитие и заметные успехи моделей LLM и Transformer в обработке информации исторически беспрецедентны и привели к заявлениям некоторых авторитетных людей о «экзистенциальных» угрозах человеческой цивилизации и появлении «сверхинтеллекта» или «общего искусственного интеллекта». Без сомнения, потенциал преднамеренного злоупотребления (и небрежного применения) таких мощных и новых технологий огромен и, вероятно, затмит тот вред, который возникает в контексте социальных сетей. Однако предположения относительно того, что представляет собой «интеллект», а тем более «супер» или «ИИО», плохо обоснованы и способствуют крайне вводящим в заблуждение общественным представлениям о будущем интеллектуальных систем в целом. Это фактическое повествование коренится в популярных стереотипах, характерных для апокалиптической научной фантастики, но не подтверждается научными данными. Вопреки популярному мнению, сегодня существует значительный и заслуживающий доверия массив научных исследований, основанных на вычислительной нейробиологии, биологии и физике, которые поддерживают гораздо более тонкую и, в конечном итоге, позитивную и понятную версию, касающуюся феномена интеллекта. Эта точка зрения объединяет ИИ, человеческий интеллект и другие интеллектуальные формы в общее описание и понимание взаимосвязанных «разумов» всех «живых существ». Развивающаяся область разнообразного интеллекта, которая выдвигает на первый план формы познания в нетрадиционных субстратах, является важной частью дебатов об ИИ и необходимым балансом для ошибочных сравнений с человеческим разумом как важнейшего критерия для оценки ИИ.

Это альтернативное научное повествование, гармонично сочетающее концепции «жизни» и «интеллекта», является предшественником форм следующего поколения распределенного ИИ сверхвысокой производительности, состоящего из самообъясняющего, саморефлексирующего и самокорректирующегося интеллекта.

Без надлежащего и детального научного понимания нынешних и будущих технологий искусственного интеллекта политики и правила, предназначенные для управления системами искусственного интеллекта и их воздействием, скорее всего, будут ошибочными и неэффективными.

Нейронные системы, возникающие в природе, эволюционировали и достигли впечатляющего набора адаптивных возможностей. Человеческие общества и способность к символической коммуникации использовали естественную эволюцию приспособленности до такой степени, что человеческие организмы могут передавать информацию во времени и пространстве, способствуя накоплению знаний все ускоряющимися темпами. Человеческий разум и его расширения достигли точки, позволяющей создавать искусственный интеллект.

Почему человеческий мозг и разум важны для будущего искусственного интеллекта? Глубокое понимание структуры и функций человеческого мозга и его возникающих психических функций может не только помочь сформировать будущие технологические возможности (с моделями нейронных сетей и за их пределами), но также будет иметь важное значение для оптимизации того, как человеческий интеллект интегрируется и работает с искусственным интеллектом. в просоциальной, а не антисоциальной манере. Человеческий мозг и разум развивались таким образом, что это привело как к преимуществам, так и к ограничениям. Необходимо будет синергетически работать с ИИ (включая, например, возможные интерфейсы «мозг-компьютер» при лечении заболеваний) и направлять его этическое развитие.

Критические недопонимания возникают не только в научном и академическом контексте, но и в более широком экономическом, политическом и социальном структурном контексте. Например, из-за высоких вычислительных затрат и зависимости от больших объемов обучающих данных модели LLM и Transformer широко считаются доступными для коммерциализации только компаниями «крупных технологий». Следовательно, выдвигается аргумент, что крупные технологические компании должны пользоваться особым вниманием со стороны регулирующих органов и уважением со стороны широкой общественности. Но это не обязательно так, поскольку технология искусственного интеллекта не обязательно должна быть монолитной или сконцентрированной, чтобы ее можно было успешно коммерциализировать и надлежащим образом регулировать. В самом ближайшем будущем распределенный и биологически обоснованный интеллект сможет работать на мобильных устройствах, потребляя гораздо меньше энергии, чем нынешние системы, и будет обладать внутренней способностью самостоятельно обеспечивать и самокорректировать свои действия и цели, значительно превосходя нынешние и будущие централизованные ИИ. системные архитектуры. Такие прозрачные когнитивные архитектуры и периферийные инфраструктуры, на которых будут работать такие будущие разведывательные инфраструктуры, будут иметь решающее значение для сохранения конфиденциальности и безопасности, а также для достижения справедливого, устойчивого и демократического использования этой многообещающей и необходимой технологии.

Призыв к действию:

Мы, нижеподписавшиеся стороны, считаем, что на данном этапе коммерциализации и регулирования ИИ жизненно важно, чтобы альтернативное и научно обоснованное понимание биологических основ ИИ было обнародовано и чтобы среди законодателей были созваны междисциплинарные публичные семинары, регуляторы, технологи, инвесторы, ученые, журналисты, неправительственные организации, религиозные сообщества, общественность и лидеры бизнеса.

Благодаря совместным усилиям Института активного вывода, основополагающие принципы которого основаны на науке, вычислительной физике и биологии живого интеллекта и открытых технологиях, была создана программа «Нейропсихиатрия и общество», целью которой является привнесение понимания человеческого мозга и разума в общество. проблем и технологических разработок, а также Бостонского глобального форума, чьим мандатом является формирование глобальной политики и модели Всемирного общества искусственного интеллекта для инклюзивного и полезного применения искусственного интеллекта, могут произойти реальные преобразующие изменения в том, как мы подходим, развиваемся и интегрируемся. искусственный интеллект в наше общество.

Подпись,

Список подписавших:

• Кришнашри Ачутан, декан Университета Амрита
• Назли Чукри, профессор Массачусетского технологического института, член правления Бостонского глобального форума.
• Джон Х. Клиппингер, доктор философии, Институт активного вывода; Лаборатории Биоформ
• Скотт Л. Дэвид, Вашингтонский университет — Лаборатория прикладной физики
• Раму Дамодаран, первый руководитель программы ООН по академическому взаимодействию (ЮНАИ), сопредседатель инициативы «Столетие Организации Объединенных Наций  — BGF и ЮНАИ в честь столетия Организации Объединенных Наций в 2045 году», представитель Бостонского глобального форума в Нью-Йорке< /ли>
• Губернатор Майкл Дукакис, соучредитель и председатель Бостонского глобального форума.
• Крис Филдс, доктор философии, Университет Тафтса; Частный консультант
• Дэниел Ари Фридман, доктор философии, Институт активного вывода; COGSEC
• Карл Фристон, доктор медицинских наук, Университетский колледж Лондона
• Томас Келер, доктор философии, CrowdSmart.ai; CommonGoodAI
• Вирджиния Блю Найт, Институт активного вывода
• Златко Лагумдия, бывший премьер-министр Боснии и amp; Герцеговина, посол Боснии и Герцеговины в ООН
• Франческо Лапента, Университет Джона Кэбота в Риме, представитель Бостонского глобального форума в Риме.
• Энрико Летта, бывший премьер-министр Италии, президент Института Жака Делора
• Майкл Левин, доктор философии, директор Levin Labs, Центр открытий Аллена, Университет Тафтса
• Ясухидэ Накаяма, бывший государственный министр обороны и иностранных дел Японии.
• Пол Немиц, главный советник по цифровому переходу в Генеральном директорате по вопросам юстиции и потребителей, Комиссия ЕС, представитель Бостонского глобального форума в Брюсселе и Берлине.
• Нгуен Ань Туан, соучредитель и генеральный директор Boston Global Forum
• Мартин Нкафу Нкемнкиа, Папский Латеранский университет, Ватикан
• Бет Новек, Северо-Восточный университет, первый заместитель главного технического директора США при президенте Обаме в Белом доме.
• Томас Паттерсон, профессор Гарвардской школы Кеннеди, соучредитель Бостонского глобального форума.
• Алекс Пентланд, профессор Массачусетского технологического института, член правления Бостонского глобального форума.
• Мэттью Пирковски, Bioform Labs
• Джошуа Шейн, Bioform Labs
• Дэвид А. Зильберсвейг, доктор медицинских наук, председатель отделения психиатрии, содиректор Центра нейронаук, Женская больница Бригама, Стэнли Кобб, профессор психиатрии, Гарвардская медицинская школа.
• Берт де Врис, доктор философии, профессор Технологического университета Эйндховена.

Изучите будущее искусственного интеллекта с помощью активного вывода и получите представление об этом революционном подходе! Посетите мой блог at https://deniseholt.us/ и Подпишитесь на мои каналы на< /em> YouTube, Spotify, Apple, Amazon и другие. Подпишитесь на мою рассылку новостей на LinkedIn, чтобы получать больше новаторского контента. .

Также опубликовано здесь .