Чат-бот Bing AI быстрее реагирует, а также лучше разбирается в спорте
2 июля 2023 г.Microsoft предоставила свой регулярный еженедельный обновление об улучшениях для Bing AI, и на этой неделе мы добились впечатляющих успехов.
Neowin заметил, что чат-бот сейчас уменьшила задержку, когда дело доходит до определенных ответов, а это значит, что в таких случаях вы не будете долго ждать ответа.
Веселье факт: внутри нас больше всего волнует то, что большинству людей кажется скучным. Вчера мы выпустили полностью переработанный бэкэнд для внутреннего монолога, сократив время до первого токена примерно на 25% и, что гораздо важнее, сделав задержку более стабильной, уменьшив пики: pic.twitter.com/E0zBZ3lHyY29 июня 2023 г.
Как объяснил в Twitter Михаил Парахин, глава отдела рекламы и веб-сервисов Microsoft, это результат Bing AI получает «полностью переработанный бэкэнд для внутреннего монолога», что означает оптимизацию процесса «мышления» чат-бота.
Второе преимущество этой недели — улучшенная обработка запросов, связанных со спортом, поэтому круг тем, затрагиваемых в этой области, теперь значительно шире, от НХЛ до чемпионата мира по футболу среди женщин.
Наконец, есть благо для тех, кто использует ИИ Bing в Skype с возможностью создания изображений (Bing Image Creator) теперь присутствует в разговорах по Skype. <час>
Анализ: как важно быть быстрым
Жизненно важен быстрый ИИ Bing. Какой бы запрос вы ни отправили чат-боту, вы хотите, чтобы ответ пришел с минимальным ожиданием. Если вы обнаружите, что постукиваете ногой (или, возможно, пальцем по клавиатуре), ожидая, пока Bing свяжется с вами, это будет неприятно (и может напомнить вам о живых чатах, где ожидание может разочаровать, если помощь агент имеет дело с несколькими одновременными запросами).
Эта скорость отклика является ключевой областью, в которой Bing должен преуспеть (и, конечно же, точность и полезность доставляемого ответа, которые всегда имеют первостепенное значение). Таким образом, Microsoft совершенно права, оттачивая свои усилия на этом фронте.
Тем не менее, время ожидания все еще может быть связано не с серверной частью (внутренняя работа Bing при обработке запросов). , но исключительно из-за всплесков трафика. Когда чат-ботом пользуется много людей, работа становится более вялой только с точки зрения того, чтобы справиться с этим объемом.
Кстати, Парахин подробно остановился на этом в вышеупомянутой ветке Twitter, отметив, что основные пики использования приходятся на люди приезжают на работу (в три основных раза – когда прибывает восточное побережье США, затем когда приезжает Европа, затем Дальний Восток). Это соответствует 7:00, 17:00 и 1:00 по тихоокеанскому времени, если вам интересно.
Оригинал