Илон Маск, возможно, работает над версией ChatGPT, «защищающей от пробуждения», и это отстой для ИИ
28 февраля 2023 г.Взрыв популярности чат-бота с искусственным интеллектом (AI) ChatGPT вызывает восхищение и страх (хотя бы немного), и мы видим, что все больше и больше компаний изо всех сил пытаются включить его в свои продукты как можно быстрее. Мета и Твиттер, вероятно, будут следующими в схватке Силиконовой долины за ИИ, и, похоже, никто не уверен, что это может означать для пользователей.
Мы уже были свидетелями неисправности нового Bing на базе ChatGPT от Microsoft и то, как быстро Microsoft пришлось действовать, чтобы попытаться исправить проблемы, с которыми столкнулся чат-бот. Многие исправления, которые необходимо было внести, были связаны с тем, как люди взаимодействуют с ИИ Bing, «взломом» бота, получением неточных ответов и тем, как бот обычно сходил с ума, когда сталкивался с собственным существованием. Конечно, родственное чувство, но это все проблемы, которые нужно было решать быстро из-за того, насколько поспешным было внедрение продукта.
Без надлежащего предвидения мы, вероятно, продолжим сталкиваться с многочисленными ошибками (и поспешными исправлениями), потому что технология на основе ИИ в руках широкой публики непредсказуема и временами вызывает разногласия. Сотрудники Google не являются поклонник его версии, например, Google Bard.
Поэтому немного беспокоит тот факт, что гиганты социальных сетей начинают проявлять интерес к этому буму ИИ.
Twitter, по-видимому, рассматривает возможность внедрения ИИ в платформу, разработав альтернативу ChatGPT. В конце прошлого года генеральный директор Twitter Илон Маск раскритиковал OpenAI — разработчиков ChatGPT — за внедрение мер безопасности, которые не позволяют чат-боту давать ответы, которые могут оскорбить пользователей.
опасность обучения ИИ пробуждению — другими словами, лжи — смертельно опасна16 декабря 2022 г.
Это включало в себя повторение ботом расовых оскорблений, сексистских идеологий или составление неприемлемого контента. Маск назвал меры безопасности ChatGPT «обучением ИИ проснуться», что, хотя и странно, может дать нам представление о том, на что может быть похож его чат-бот-соперник.
Сообщается, что Маск нанял Игоря Бабушкина, исследователя, который недавно покинул подразделение DeepMind AI патентной компании Google и специализируется на моделях машинного обучения, которые используются в чат-ботах, таких как ChatGPT. Мы не уверены, как именно ИИ можно внедрить в Twitter, но предыдущие комментарии Маска, осуждающие «пробуждающие» ограничения, установленные OpenAI, вызывают у нас опасения, что его реализация может быть оскорбительной, уничижительной и откровенно токсичной.
Facebook присоединился к чату
Twitter — не единственная платформа социальных сетей, которая присматривается к ИИ. Генеральный директор Facebook Марк Цукерберг разместил новую группу с анонсом Meta (материнская компания Facebook), которая сосредоточится на «генеративном ИИ» для продвижения своих продуктов.
Похоже, основное внимание уделяется созданию собственных инструментов на основе ИИ в краткосрочной перспективе (вероятно, сродни попыткам Microsoft и Google), а в долгосрочной перспективе — более сложному внедрению ИИ в Whatsapp, Facebook Messenger и Instagram. Это означает, к сожалению, для скептиков ChatGPT и ИИ, что немногие платформы социальных сетей будут в безопасности от тисков поспешного ИИ.
Объявление Цукерберга немного расплывчато, но некоторые из примеров, которые нам дали, — это творческие фильтры и форматы рекламы в Instagram и расширенные текстовые функции для Whatsapp и Messenger. Цукерберг признает, что перед выпуском любой из этих функций предстоит проделать большую «основную работу», что дает нам надежду на то, что они могут быть более продуманными, чем их предшественники.
Одно можно сказать наверняка: может стать труднее избегать влияния ИИ намного дольше, и если здесь есть одна серебряная подкладка, мы можем только надеяться, что разработчики учатся на ошибках и неудачах и делают заразную технологию лучше, а не быстрее. ChatGPT с принятыми мерами защиты по-прежнему остается диким зверем, которого нужно приручить в лучшие времена, и он по-прежнему склонен выплевывать ненавистные выражения, когда «сломан» или подсказан правильным образом. Идея о том, что риторика Маска «против пробуждения» проникает во что-то столь же сложное и непредсказуемое, как технология искусственного интеллекта, не означает ничего, кроме опасений по поводу безопасности для пользователей, активно участвующих в новой технологической сфере чат-ботов с искусственным интеллектом, и для тех из нас, кто этого не делает. Кажется, что в безумном порыве сделать это быстро и сделать это лучше, компании не подумали о том, как технология распространится на более общие области Интернета или в места, которые для этого не оборудованы.
Есть надежда, что эти разработчики придумают полезные инструменты, которые принесут пользу большинству пользователей и останутся в рамках определенной цели, хотя мы не можем быть в этом уверены прямо сейчас, и, возможно, более реалистично готовиться к худшему и надеяться на лучшее. стратегия.
Если мы увидим новые утечки ИИ в наши сферы социальных сетей, нам придется больше сосредоточиться на продвижении прозрачности и безопасности для пользователей, не совсем знакомых с ChatGPT и его новыми версиями, а также для тех из нас, кто непосредственно затронут бессмысленной пропагандой «против пробуждения». возможно, придется подготовиться к неспокойному времени в сети.
Оригинал