5 способов, которыми «Крестный отец ИИ» считает, что ИИ может все разрушить
2 мая 2023 г.Почти десять лет назад лауреат премии Тьюринга, а ныне бывший сотрудник Google доктор Джеффри Хинтон был известен тем, что с энтузиазмом восклицал среди своих студентов, изучающих искусственный интеллект: «Теперь я понимаю, как работает мозг!» Однако теперь «Крестный отец ИИ» ушел из Google — и он более склонен к тому, чтобы быть услышанным, отчаянно звонящим в тревожные колокола ИИ.
В выходном интервью с Нью-Йорк Таймс, Хинтон выразил глубокую озабоченность по поводу быстрого распространения ИИ, заявив, что «трудно понять, как можно предотвратить использование его злоумышленниками для плохие вещи."
Прямая линия соединяет многолетнюю новаторскую работу Хинтона в области нейронных сетей с чат-ботами (ChatGPT, Google Bard, Разговор с Wired в 2014 году, энтузиазм Хинтона был ясен: «Я очень взволнован, когда мы обнаруживаем способ сделать нейронные сети лучше — и когда это тесно связано с тем, как работает мозг».
Совершенно другой Хинтон говорил с < em>Нью-Йорк Таймс на этой неделе, чтобы рассказать обо всех способах, с помощью которых ИИ может сбить человечество с рельсов. Вот основные выводы:
Стремление к соревнованиям означает, что ограждения отлетают
Хотя такие компании, как Microsoft, Google и OpenAI, часто заявляют о медленном и осторожном подходе к разработке ИИ и развертыванию чат-ботов, д-р Хинтон сказал The New York Times, что его беспокоит реальность. заключается в том, что усиление конкуренции приводит к менее осторожному подходу. И он явно прав: ранее в этом году мы стали свидетелями того, как Google поспешил убрать не готового к прайм-тайму Барда. встретиться с неожиданное появление искусственного интеллекта Bing на платформе Microsoft ChatGPT.
Могут ли эти компании сбалансировать рыночный императив оставаться впереди конкурентов (например, Google остается номером 1 в поиске) с большей пользой? Доктор Хинтон теперь не убежден.
Утрата правды
Доктор Хинтон обеспокоен распространением искусственного интеллекта, что приводит к потоку поддельного онлайн-контента. Конечно, это забота не о будущем, а о реальном времени, поскольку люди теперь регулярно обманываются музыкой ИИ, которая подделывает вокальные данные хозяева (включая мертвых), Новостные изображения ИИ рассматриваются как настоящие, а генеративные изображения победа в фотоконкурсах. Благодаря силе и распространению глубоких подделок , несколько видео, которые мы смотрим сегодня, можно принять за чистую монету.
Тем не менее, доктор Хинтон может быть прав в том, что это только начало. Если Google, Microsoft, OpenAI и другие ничего не сделают с этим, мы не сможем доверять всему, что видим или даже слышим.
Разрушенный рынок труда
Доктор Хинтон предупредил The Times, что ИИ может выполнять не только задачи, которые мы не хотим выполнять.
Многие из нас использовали чат-ботов, таких как Bard и ChatGPT, для написания презентаций, предложений и даже программирования. Большая часть вывода не готова к прайм-тайму, но некоторые из них являются или, по крайней мере, сносными.
Прямо сейчас есть десятки сгенерированных ИИ романы для продажи на Amazon, а союз сценаристов (Гильдия писателей Америки) в США выразил обеспокоенность тем, что, если они не согласятся на новый контракт, студии могут передают свою работу на ИИ. И хотя массовых увольнений, связанных непосредственно с ИИ, не было, распространение этих мощных инструментов приводит некоторых к переосмыслить свою рабочую силу.
Неожиданное и нежелательное поведение
Одной из отличительных черт нейронных сетей и искусственного интеллекта с глубоким обучением является то, что он может использовать огромные массивы данных для самообучения. Одним из непреднамеренных последствий этой силы, подобной человеческому мозгу, является то, что ИИ может извлечь уроки, которых вы никогда не ожидали. Самоопределяющийся ИИ мог бы использовать ИИ на этих уроках. Доктор Хинтон сказал, что ИИ, который может не только программировать, но и запускать свои собственные программы, вызывает особое беспокойство, особенно в том, что касается непредвиденных результатов.
ИИ будет умнее нас
Современный ИИ часто кажется умнее людей, но с его склонностью к галлюцинациям и сфабрикованным фактам, это далеко не соответствует нашим величайшим умам. Доктор Хинтон считает, что день, когда ИИ действительно перехитрит нас, быстро приближается, и уж точно быстрее, чем он первоначально предполагал.
ИИ может имитировать эмпатию — см. его недавнее испытание как источник медицинских советов, но это не то же самое, что истинное человеческое сочувствие. Сверхумные системы, которые могут понять все, но без учета того, как их выбор может повлиять на людей, вызывают глубокую обеспокоенность.
Хотя предупреждения доктора Хинтона резко контрастируют с его первоначальным энтузиазмом в отношении технологического сектора, который он почти изобрел, он рассказал Wired о работе над системами искусственного интеллекта, имитирующими человеческий мозг, еще в 2014 году. звучит странно пророчески: «Мы перестали быть сумасшедшим маргиналом. Мы теперь сумасшедшее ядро».
Оригинал