Google предупреждает своих сотрудников о чат-ботах, что может быть плохим знаком

Похоже, что, несмотря на активное стремление увеличить свою долю на рынке чат-ботов с искусственным интеллектом, Alphabet, материнская компания Google, предупреждает своих сотрудников об опасностях чат-ботов с искусственным интеллектом.

“Google Согласно отчету Reuters. Причина этих мер предосторожности, о которых все больше компаний и организаций предупреждают своих сотрудников об этих общедоступных чат-программах, двояка.

Во-первых, рецензенты, которые, как было установлено, по существу мощные чат-боты, такие как ChatGPT, могут читать конфиденциальные данные, введенные в чатах. Другая причина заключается в том, что исследователи обнаружили, что ИИ может воспроизводить полученные им данные и создать риск утечки. Компания Google заявила агентству Reuters, что «она стремилась открыто сообщать об ограничениях своей технологии».

Тем временем Google запускает собственного чат-бота Google Bard в 180 странах и на более чем 40 языках, с инвестициями в миллиарды долларов, а также доходами от рекламы и облачных вычислений от своих программ искусственного интеллекта. Он также расширил свои Набор инструментов искусственного интеллекта для других продуктов Google, таких как Карты и Объектив, несмотря на оговорки некоторых руководителей в отношении потенциальных проблем внутренней безопасности, создаваемых программами.

Двойственность Google 

Одна из причин, по которой Google пытается использовать оба варианта, заключается в том, чтобы избежать потенциального вреда для бизнеса. Как указывалось ранее, технический гигант вложил значительные средства в эту технологию, и любое серьезное противоречие или ошибка в системе безопасности могут стоить Google огромных денег.

Другие компании пытаются установить аналогичные стандарты для как их сотрудники взаимодействуют с искусственным интеллектом чат-бота во время работы. Некоторые подтвердили эту информацию агентству Reuters, включая Samsung, Amazon и Deutsche Bank. Apple не подтвердила, но, как сообщается, сделал то же самое.

На самом деле, Samsung полностью заблокировала ChatGPT< /u> и другой генеративный ИИ на своем рабочем месте после того, как в начале 2023 года он, как сообщается, пострадал от трех случаев утечки конфиденциальной информации сотрудниками через ChatGPT. Это особенно вредно, поскольку чат-бот сохраняет все введенные данные, а это означает, что теперь, по сути, в руках OpenAI.

Хотя это выглядит довольно лицемерно, есть множество причин, по которым Google и другие компании так осторожно относятся к чат-ботам с искусственным интеллектом. Однако я бы хотел, чтобы эта осторожность распространялась на то, как быстро она разрабатывает и публично продвигает ту же технологию.