Работники Samsung допустили серьезную ошибку, используя ChatGPT
4 апреля 2023 г.Сотрудники Samsung непреднамеренно утекли совершенно секретные данные, используя ChatGPT, чтобы помочь им с задачами.
Компания разрешила инженерам полупроводникового подразделения использовать автоматизированный писатель для решения проблем. с их исходным кодом. Но при этом рабочие вводили конфиденциальные данные, такие как сам исходный код новой программы, данные внутренних протоколов совещаний, относящиеся к их оборудованию.
В результате менее чем за месяц было зарегистрировано три случая утечки конфиденциальной информации сотрудниками через ChatGPT. Поскольку ChatGPT сохраняет вводимые пользователем данные для дальнейшего обучения, эти коммерческие секреты Samsung теперь фактически находятся в руках OpenAI, компании, разрабатывающей сервис ИИ.
В OpenAI
В ответ на это Samsung Semiconductor сейчас разрабатывает собственный ИИ для внутреннего использования сотрудниками, но они могут использовать только подсказки, размер которых ограничен 1024 байтами.
В одном из вышеупомянутых случаев сотрудник попросил ChatGPT оптимизировать тестовые последовательности для выявления неисправностей в чипах, что является конфиденциальным, однако максимально эффективное выполнение этого процесса может сэкономить производителям микросхем значительное время. при тестировании и проверке процессоров, что также приводит к снижению затрат.
В другом случае сотрудник использовал ChatGPT для преобразования заметок о встрече в презентацию, содержание которой, очевидно, не было чем-то, что Samsung хотела бы, чтобы внешние третьи лица знали.
Samsung Electronics разослала предупредив своих сотрудников о потенциальной опасности утечки конфиденциальной информации в результате инцидентов, заявив, что такие данные невозможно получить, поскольку они теперь хранятся на серверах, принадлежащих OpenAI. В полупроводниковой промышленности, где существует жесткая конкуренция, любая утечка данных может обернуться катастрофой для соответствующей компании.
Не похоже, чтобы у Samsung был какой-либо способ потребовать извлечения или удаления данных. конфиденциальные данные теперь хранятся в OpenAI. Некоторые утверждали, что именно этот факт делает ChatGPT несовместимым с GDPR ЕС, поскольку это является одним из основных положений закона, регулирующего сбор и использование данных компаниями. Это также одна из причин, по которой Италия запретила использование ChatGPT по всей стране. .
- Если вам нужна помощь в написании кода, воспользуйтесь лучшей интегрированной средой разработки для Python< /ли>
Оригинал