OpenAI представляет «Систему готовности» к устранению рисков вредоносного ИИ
21 декабря 2023 г.OpenAI, единорог искусственного интеллекта и создатель ChatGPT, в понедельник, 18 декабря, поделился «Системой готовности» » для устранения серьезных рисков, связанных с вредоносным искусственным интеллектом. Примечательно, что эта структура предоставит совету директоров право вето, что позволит ему изменять решения по безопасности по мере необходимости.
В сообщении в тот же день в блоге OpenAI компания заявляет, что «изучение передовых рисков ИИ далеко отстает от того, что возможно и где нам нужно быть. Чтобы устранить этот пробел и систематизировать наши представления о безопасности, мы принимаем первоначальную версию нашей системы готовности. В нем описаны процессы OpenAI по отслеживанию, оценке, прогнозированию и защите от катастрофических рисков, создаваемых все более мощными моделями».
В соответствии со структурой готовности OpenAI создала три группы безопасности: группу по системам безопасности, сосредоточенную на предотвращении злоупотреблений текущими моделями, такими как ChatGPT, команду суперсогласования для создания основ безопасности для моделей суперсогласования, которые могут появиться в будущем, и группу готовности. команда, которая определяет возникающие риски передовых моделей.
Профессор искусственного интеллекта Массачусетского технологического института Александр Мадри возглавит группу по обеспечению готовности. В своей роли он будет нанимать исследователей искусственного интеллекта, компьютерных ученых, экспертов по национальной безопасности и специалистов по политике, чтобы следить за технологией, постоянно тестировать ее и предупреждать компанию, если она считает, что какие-либо из ее возможностей искусственного интеллекта становятся опасными - через Вашингтон пост.
В дальнейшем поддерживаемый Microsoft гигант искусственного интеллекта будет публиковать зарождающуюся технологию искусственного интеллекта только в том случае, если она будет признана безопасной в определенных областях, таких как кибербезопасность и ядерные угрозы.
По-прежнему генеральный директор после головокружительная сага о лидерстве В прошлом месяце Альтман постоянно рекламировал необходимость поэтапного выпуск более мощных моделей ИИ для общественности. Целью этого является то, чтобы мы могли понять развивающиеся возможности технологии и потенциально «катастрофические» риски.
Это, возможно, и лежит в основе его видения Worldcoin — криптопроекта со сканированием радужной оболочки глаза, целью которого является создание глобальной идентичности и финансовой сети. Это, по его мнению, жизненно важно, потому что «в мире, где много искусственного интеллекта, знание того, кто такой человек, имеет все большее значение».
В нашем постоянном опросе HackerNoon Technology мы хотим узнать, что вы думаете об инициативе Альтмана Worldcoin.
Присоединяйтесь к обсуждению здесь.< /а>
Open AI завершила неделю на №2449 в рейтинге технологических компаний HackerNoon.
:::совет 👋 Вы читаете часть 2 новостного бюллетеня HackerNoon's Tech Company News Brief, еженедельного сборника технических новостей, который объединяет собственные данные HackerNoon с интернет-тенденциями, чтобы определить, какие компании растут и падают в общественном сознании. Часть 1 была опубликована вчера. Предпочитаете прочитать все на день раньше И за один раз? Без проблем! Просто подпишитесь здесь, чтобы получать полный информационный бюллетень на свой почтовый ящик каждый вторник.
:::
Патентный спор угрожает часовому бизнесу Apple стоимостью 17 миллиардов долларов
Apple подтвердила в понедельник, 18 декабря, что прекратит продажи своих умных часов Series 9 и Ultra 2 в США, поскольку оно является предметом патентного спора с медицинской технологической компанией Masimo.
В начале этого года американский судья вынес решение в пользу иска Масимо о том, что самая успешная компания в мире нарушила свой патент на оксиметрию, импортируя и продавая часы Apple с функцией пульсоксиметрии - Сообщило агентство Reuters.
Перенесемся в октябрь: Комиссия по международной торговле США издала приказ, который потенциально может запретить Apple импортировать свои часы, что нанесет серьезный ущерб ее 56% доли рынка умных часов в США.
Решение о запрете находится на рассмотрении президента Байдена до 25 декабря. И если к тому времени на решение не будет наложено вето, запрет вступит в силу в День подарков.
За несколько дней до не самого удачного дня подарков для компании с оборотом в триллион долларов Apple круглосуточно работает над спасением пострадавшей линейки умных часов. Как сообщает Bloomberg, эта спасательная операция предполагает исправления программного обеспечения и возможные изменения в алгоритмах измерения уровня кислорода в крови пользователя.
Согласно TechCrunch, Apple считает, что утверждение ITC неверно, что было подтверждено собственным иском против Масимо в октябре прошлого года. Таким образом, в течение следующих нескольких дней Apple продолжит обжаловать это решение, одновременно работая круглосуточно над упреждающим его соблюдением, если оно останется в силе.
Apple занимает третье место в рейтинге технологических компаний на этой неделе.
Другие новости…
ЕС преследует X (ранее Twitter) в ходе своего первого расследования незаконного контента – Reuters
Google собирается выплатить 700 миллионов долларов США в рамках урегулирования спора в Play Store – TechCrunch
Законодатели просят Министерство юстиции расследовать деятельность Apple в связи с закрытием приложений iMessage - Bloomberg
Tesla отзывает почти все 2 миллиона своих автомобилей в США — CNN
Бывший премьер-министр Пакистана использует голосовой клон искусственного интеллекта для предвыборной кампании, находясь в тюрьме – Граница
На этом мы подходим к концу краткого обзора новостей технологических компаний на этой неделе.
Не забудьте поделиться этим новостным бюллетенем со своей семьей, друзьями и всеми остальными.
Увидимся на следующей неделе!
Ашер Юмери, редактор World News & Scifi @ HackerNoon.
Все рейтинги актуальны по состоянию на понедельник. Чтобы узнать, как изменились рейтинги, посетите страницу рейтингов технологических компаний HackerNoon.
:::информация Главное изображение: структура готовности openai (бета)
:::
Оригинал