Google объясняет, почему AI Reviews не смог понять шутку и посоветовал пользователям съедать один камень в день – и обещает, что дальше станет лучше
1 июня 2024 г.Если вы следите за последними разработками в области генеративного ИИ, вы могли заметить, что Google активизировал развертывание своего раздела ‘AI Overviews’ в Поиске Google на всей территории США.
На странице На конференции Google I/O 2024, состоявшейся 14 мая, компания Google уверенно представила обзоры ИИ как следующую важную вещь в поиске, которая, как ожидается, поразит пользователей, и когда на следующей неделе эта функция наконец начала внедряться, она получила менее восторженный ответ. В основном это произошло из-за того, что обзоры ИИ возвращали странную и совершенно неправильную информацию, и теперь Google отреагировал, объяснив, что произошло и почему обзоры ИИ работали именно так (по данным Google).
Эта функция была предназначена для предоставления более сложных и лучше сформулированных ответов на запросы пользователей, синтезируя пул соответствующей информации и разбивая ее на несколько удобных абзацев. За этим резюме последуют перечисленные синие ссылки с краткими описаниями веб-сайтов, к которым мы привыкли.
К несчастью для Google, скриншоты обзоров ИИ, которые предоставили странную, бессмысленную и совершенно неверную информацию, начали распространяться в социальных сетях вскоре после запуска. С тех пор Google отключил эту функцию, и опубликовал пояснительную публикацию в своем блоге Keyword, чтобы объяснить, почему AI Reviews делала это, как уже упоминалось, - сразу же отметив, что многие из этих скриншотов были поддельными.
Какими должны были быть обзоры ИИ
В своем блоге Google сначала объясняет, что обзоры ИИ были разработаны для сбора и представления информации, которую вам придется копать дальше с помощью нескольких поисков, чтобы узнать иное, а также для включения заметных ссылок на источники информации, чтобы вы могли легко следовать из резюме.
По словам Google, дело не только в больших языковых моделях (LLM), собирающих убедительно звучащие ответы на основе существующих данных обучения. Обзоры AI основаны на собственной языковой модели, которая объединяет основные системы веб-рейтинга Google, которые используются для выполнения поиска и интеграции актуальной и высококачественной информации в сводку. Точность является одним из краеугольных камней, которыми Google гордится, когда дело доходит до поиска, отмечает компания, заявляя, что она создала обзоры AI, чтобы показывать информацию, полученную только из веб-результатов, которые она считает лучшими.
Это означает, что обзоры ИИ, как правило, вызывают меньше галлюцинаций, чем другие продукты LLM, и если что-то пойдет не так, вероятно, это по той причине, с которой Google также сталкивается, когда дело доходит до поиска, давая возможные проблемы, такие как «неправильная интерпретация запросов, неправильная интерпретация нюансы языка в Интернете или отсутствие большого количества полезной информации».
Что на самом деле произошло во время внедрения
Далее Google заявляет, что обзоры ИИ были оптимизированы с точки зрения точности и тщательно протестированы перед их более широким внедрением, но, несмотря на эти, казалось бы, надежные усилия по тестированию, Google признает, что это не то же самое, что миллионы людей опробуют эту функцию с помощью потока новых поисковых запросов. . Он также указывает, что некоторые люди пытались спровоцировать его поисковую систему на создание бессмысленных обзоров ИИ, выполняя нелепые поисковые запросы.
Я нахожу эту часть объяснения Google немного странной, поскольку я предполагаю, что при создании такой функции, как обзоры ИИ, компания будет признательна за то, что люди, вероятно, попытаются сломать ее или каким-то образом сбить ее с рельсов, и поэтому он должен быть спроектирован так, чтобы легко справляться с глупыми или бессмысленными поисками.
В любом случае, Google затем продолжает выявлять фальшивые скриншоты некоторых бессмысленных и юмористических обзоров искусственного интеллекта, которые распространились по сети, и это, я думаю, справедливо. Это напоминает нам, что мы, конечно, не должны верить всему, что видим в Интернете, хотя фальшивые скриншоты выглядели довольно хорошо, если не изучать их слишком внимательно (и все это в любом случае подчеркивает необходимость проверки функций, сгенерированных ИИ).
Однако Google признает, что иногда обзоры ИИ давали странные, неточные или бесполезные ответы. В нем подробно объясняется, что существует множество причин, почему это произошло, и что весь этот эпизод выявил конкретные области, где обзоры ИИ можно улучшить.
Технологическая компания также отмечает, что эти сомнительные обзоры ИИ будут появляться при поиске по запросам, которые встречаются нечасто. Пользователь Threads, @crumbler, опубликовал обзоры ИИ скриншот, который стал вирусным после того, как Google спросили: «Сколько камней мне следует съесть?» Это вернуло обзор ИИ, в котором рекомендовалось съедать хотя бы один небольшой камень в день. Google объясняет, что до того, как этот скриншот распространился в сети, этот вопрос редко задавался в поиске (что, безусловно, достаточно правдоподобно).
Google продолжает объяснять, что не существует большого количества качественных исходных материалов, чтобы серьезно ответить на этот вопрос, называя случаи, когда это происходит, «пустотой данных» или «информационным пробелом». Кроме того, в случае с приведенным выше запросом часть единственного доступного контента носила сатирический характер и была серьезно связана с одним из немногих веб-сайтов, адресовавших этот запрос.
Другие бессмысленные и глупые обзоры ИИ извлекали детали из источников саркастического или юмористического контента, а также из тролльских постов с дискуссионных форумов.
Следующие шаги Google и будущее ИИ. Обзоры
Объясняя, что он делает для исправления и улучшения обзоров AI или любой части результатов поиска, Google отмечает, что он не просматривает страницы результатов поиска одну за другой. Вместо этого компания пытается внедрить обновления, которые затрагивают целые наборы запросов, включая возможные будущие запросы. Google утверждает, что смог выявить закономерности при анализе случаев, когда обзоры ИИ ошибались, и что он принял целый ряд новых мер для дальнейшего улучшения этой функции.
Вы можете проверить полный список в сообщении Google, но внедряются улучшенные возможности обнаружения бессмысленных запросов, пытающихся спровоцировать странный обзор ИИ, и поисковый гигант стремится ограничить включение сатирического или юмористического контента. .
Помимо новых мер по улучшению обзоров ИИ, Google заявляет, что отслеживает отзывы пользователей и внешние отчеты, а также принял меры в отношении небольшого количества обзоров, которые нарушают политику Google в отношении контента. По данным Google, такое случается довольно редко — менее чем в одном из семи миллионов уникальных запросов — и проблема решается.
Последняя причина, по которой Google объясняет, почему обзоры AI работают таким образом, — это просто масштаб миллиардов запросов, которые выполняются в поиске каждый день. Я не могу сказать, что виню Google за это, и я надеюсь, что он увеличит количество тестов, которые он проводит в обзорах AI, даже несмотря на то, что эта функция продолжает разрабатываться.
Что касается обзоров ИИ, не понимающих сарказм, на первый взгляд это звучит как отговорка, но сарказм и юмор в целом — это нюанс человеческого общения, который, как я могу себе представить, трудно объяснить. Комедия сама по себе является целым видом искусства, и это будет очень тернистая и сложная область для навигации. Итак, я понимаю, что это серьезная задача, но если Google хочет сохранить репутацию компании, предоставляющей точность, внедряя эту новую функцию, с этим придется разобраться.
Нам просто нужно будет посмотреть, как поведут себя обзоры искусственного интеллекта Google, когда они будут вновь представлены — и можете поспорить, что будет много людей, внимательно наблюдающих (и запускающих еще более нелепые поисковые запросы в попытке получить этот вирусный скриншот).
ВАМ ТАКЖЕ МОЖЕТ ПОНРАВИТЬСЯ...
- Поиск Google предоставляет ответы, сгенерированные искусственным интеллектом, независимо от того, хотите вы этого или нет
- Как избавиться от обзоров ИИ в поиске Google
- Google I/O 2024 – 7 крупнейших анонсов ИИ, от Gemini до Android 15
Оригинал