Открытая проблема: как OpenAI допустила трагедию, хотя знала о угрозе

Тема пришла из обсуждения на Reddit: пользователи r/tech_policy спорили о том, почему OpenAI не сообщила о потенциальной угрозе, связанной с одним из пользователей ChatGPT. Пост набрал тысячи голосов — значит, задело многих людей.

Что произошло

Внутренний аудит OpenAI выявил, что один из пользователей представлял реальную угрозу. Однако, вместо того, чтобы сообщить об этом властям, компания решила просто заблокировать аккаунт и ничего не предпринять.

Такое решение вызвало широкий общественный резонанс и многие люди стали критиковать OpenAI за бездействие.

Что говорят люди в комментариях

«AI не предназначена для предотвращения трагедий, а для того, чтобы трагедии можно было монетизировать» — пользователь BrockVegas

Анализ рынка: что уже существует

За рубежом

• Recurrent — сервис, который предоставляет отчеты о здоровье батареи подержанных электромобилей, монетизируемый через подписку.
• EV Database — детальная база данных всех электромобилей с реальными характеристиками.

Незакрытая ниша: нет сервиса, который бы предоставлял информацию о потенциальных угрозах, связанных с пользователями AI, и позволял бы предотвратить трагедии.

Читайте также

• Утечка данных Polymarket: как один хакер раскрыл уязвимости криптовалютных прогнозов
• Джон Оливер раскрывает темную сторону чат-ботов: почему это важно для потребителей
• Google ужесточает контроль над Android: что это значит для разработчиков и пользователей