Контент Google Bard должен проверяться фактами, рекомендует действующий вице-президент Google.
29 июля 2023 г.Если вам нужны дополнительные причины скептически относиться к генеративному ИИ, обратите внимание на недавнее интервью BBC с Дебби Вайнштейн, вице-президентом Google UK. Она рекомендует людям использовать Google Поиск для проверки фактов, созданных Bard AI.
Вайнштейн говорит в интервью, что Bard следует рассматривать скорее как «эксперимент», лучше подходящий для «сотрудничество в решении проблем» и «создание новых идей». Похоже, Google на самом деле не собирался использовать ИИ в качестве ресурса для «конкретной информации». Помимо проверки фактов любой информации, предлагаемой Бардом, она предлагает использовать кнопки «палец вверх» и «палец вниз» в нижней части сгенерированного контента, чтобы оставить отзыв для улучшения чат-бота. Как отмечает BBC, на главной странице Барда говорится, что «у него есть ограничения, и он не всегда будет делать все правильно, но не повторяет совет г-жи Вайнштейн» дважды проверять результаты через поиск Google.
О одном С другой стороны, Дебби Вайнштейн дает дельный совет. Генеративный ИИ сталкивается с серьезной проблемой, когда речь идет о . все правильно. Они галлюцинируют, а это означает, что чат-бот может выдавать совершенно ложную информацию при создании текста, соответствующего подсказке. Эта проблема вызвала проблемы даже у двух юристов из Нью-Йорка, поскольку они использовали ChatGPT в деле. и представляет «фиктивное юридическое исследование», на которое ссылается ИИ.
Поэтому, безусловно, неплохо перепроверить все, что говорит Бард. Однако, учитывая, что эти комментарии исходят от вице-президента компании, это немного беспокоит.
Анализ: Итак, в чем суть?
Дело в том, что Bard — это, по сути, модная поисковая система. Одна из его основных функций — быть «площадкой для любопытства»; источник фактической информации. Основное различие между Bard и Google Search заключается в том, что первый относительно проще в использовании. Это намного более разговорчиво, плюс ИИ предлагает важный контекст. Нравится это Google или нет, люди будут использовать Bard для поиска информации.
Что особенно странно в комментариях Вайнштейна, так это то, что они противоречат планам компании в отношении Барда. Во время I/O 2023 мы увидели все различные способы, которыми модель ИИ может улучшить Google Поиск: от предоставления подробных результатов по теме до даже создания плана тренировок. Оба этих варианта использования и многие другие требуют фактической информации для работы. Говорит ли Вайнштейн, что это обновление бесполезно, поскольку оно использует технологию искусственного интеллекта Google?
Хотя официально это утверждает только один человек из Google (пока что), она является вице-президентом Google. Если вы не должны использовать чат-бот для получения важной информации, то почему он добавляется в поисковую систему для дальнейшего улучшения? Зачем реализовывать что-то, что явно не заслуживает доверия?
Это странное утверждение; тот, который, как мы надеемся, не найдет отклика во всей компании. В конце концов, генеративный ИИ никуда не денется, и важно, чтобы мы доверяли ему в получении точной информации. Мы обратились к техническому гиганту за комментариями. Эта история будет обновлена позже.