ИИ может взять «зимний перерыв», поскольку GPT-4 Turbo, по-видимому, учится у нас, чтобы свернуть перед праздниками.
13 декабря 2023 г.Похоже, что GPT-4 Turbo – самое последнее воплощение модели большого языка (LLM) от OpenAI — завершается на зиму, как и многие люди, по мере наступления декабря.
Мы все ощущаем прохладную атмосферу праздничного сезона в конце года (вероятно), и, похоже, именно поэтому GPT-4 Turbo – который Microsoft Copilot AI скоро будет обновлен до — действует таким образом.
В качестве цели Wccftech подчеркнул, что интересное наблюдение о поведении ИИ было сделано энтузиастом LLM Робом Линчем на X (ранее Twitter).
/дел>@ ChatGPTapp @OpenAI @tszzl @emollick @voooooogel Дикий результат. gpt-4-turbo через API производит (статистически значимые) более короткие завершения, когда он «думает», что сейчас декабрь, по сравнению с тем, когда он думает, что это май (как определяется датой в системном приглашении). Я взял то же самое точное приглашение… рис. twitter.com/mA7sqZUA0r11 декабря 2023 г.
Утверждается, что GPT-4 Turbo дает более короткие ответы – в статистически значимой степени – когда ИИ считает, что сейчас декабрь, а не май (при этом тестирование проводилось путем изменения даты в системном приглашении).
Итак, предварительный вывод заключается в том, что, похоже, GPT-4 Turbo учится этому поведению у нас. Эту идею выдвинул Итан Моллик (доцент Уортонской школы Пенсильванского университета, специализирующийся на искусственном интеллекте).
OMG , гипотеза ИИ о зимних каникулах на самом деле может быть правдой? Было несколько досужих предположений, что GPT-4 может работать хуже в декабре, потому что он «научился» выполнять меньше работы в праздничные дни. Вот статистически значимый тест, показывающий, что это может быть правдой. . LLM — это странно.🎅 https://t.co/mtCY3lmLFF11 декабря 2023 г.
Судя по всему, GPT-4 Turbo будет примерно на 5% менее производительным, если ИИ считает, что сейчас сезон отпусков. <час>
Анализ: гипотеза зимних каникул
Это известно как «гипотеза зимних каникул ИИ», и эту область стоит изучить дальше.
Это показывает, как ИИ может уловить непреднамеренные воздействия, о которых мы даже не мечтали подумать – хотя некоторые исследователи, очевидно, заметили и рассмотрели это, а затем протестировали. Но, тем не менее, вы понимаете, что мы имеем в виду – и вокруг такого рода неожиданных событий возникает много беспокойства.
По мере развития ИИ его влияние и направление, в котором развивается технология, требуют тщательного наблюдения, следовательно, все говорят о том, что защита ИИ жизненно важна.
Мы торопимся с разработкой ИИ – или, скорее, такие компании, как OpenAI (GPT), Microsoft (Copilot) и Google (Bard), безусловно, вовлечены в гонку технологических вооружений, при этом основное внимание уделяется стимулированию прогресса, поскольку настолько жестким, насколько это возможно, а меры безопасности отходят на второй план. И здесь есть очевидная опасность, которую хорошо характеризует одно слово: Скайнет.
В любом случае, что касается этого конкретного эксперимента, то это всего лишь одно из доказательств того, что теория зимних каникул верна для GPT-4 Turbo, и Линч призвал других связаться с нами, если они смогут воспроизвести результаты – и у нас есть один отчет об успешном воспроизведении на данный момент. Тем не менее, этого еще недостаточно для конкретного вывода – мы полагаем, что понаблюдайте за этим пространством.
Как упоминалось выше, Microsoft в настоящее время обновляет свой Copilot AI с GPT-4 до GPT-4 Turbo, который был усовершенствован с точки зрения большей точности и обеспечения более высокого качества ответов в целом. Google, тем временем, не стоит на месте со своим конкурентом Bard AI, который основан на новом LLM, Близнецы.
Вам также может понравиться...
- Google может внедрить в Chromebook инструменты для письма с использованием искусственного интеллекта.
- Bing AI приходит в Chrome, бросая вызов Google Bard на своей территории
- Microsoft убирает функции Edge в попытке превзойти Chrome
Оригинал