Разработчиков программного обеспечения Samsung арестовали за вставку проприетарного кода в ChatGPT

Несколько сотрудников корейской компании по производству полупроводников Samsung вставили строки секретного кода в ChatGPT, раскрывая секреты компании, которые могут быть включены в будущие ответы чат-ботов другим людям по всему миру.

Сотрудник скопировал глючный исходный код из полупроводниковой базы данных в чат-бота и попросил его указать исправление, согласно к Экономист Корея. Другой сотрудник сделал то же самое для другого оборудования, попросив ChatGPT «улучшить код». После того, как третий сотрудник попросил модель ИИ подвести итоги встречи, вмешались руководители Samsung. Компания ограничила требования ChatGPT для каждого сотрудника до 1024 байт.

Всего три недели назад Samsung сняла запрет на использование ChatGPT для сотрудников из-за опасений по поводу этой проблемы. После последних событий рассматривается возможность повторного введения запрета, а также дисциплинарных мер для сотрудников, Экономист Корея Он говорит.

«В случае возникновения аналогичного инцидента даже после принятия экстренных мер по защите информации доступ к ChatGPT в корпоративной сети может быть заблокирован», — говорится во внутренней служебной записке. Как только контент вводится в ChatGPT, данные передаются и сохраняются на сервере, что делает невозможным их извлечение компанией.

Открытый ИИ руководство пользователя Он предупреждает пользователей о таком поведении: «Мы не можем удалить определенные претензии из вашей истории. Пожалуйста, не делитесь конфиденциальной информацией в своих разговорах». В нем говорится, что система использует все представленные ей вопросы и тексты в качестве обучающих данных.

Использование чат-ботов для поиска и исправления ошибочного кода стало обычным явлением в разработке программного обеспечения. Если пользователи задают вопрос о кодировании, он пытается определить решение и предоставляет фрагмент кода одним нажатием кнопки «копировать-вставить». Знаний ChatGPT в области кодирования, кажется, достаточно, чтобы ее наняли в Google в качестве младшего инженера.

Это может заменить время (иногда часы), которое инженеры тратят на просмотр таких сайтов, как Stack Overflow, популярный ресурсный инженер, который обращается за устранением неполадок. Как свидетельство высокого уровня использования ChatGPT разработчиками программного обеспечения, Stack Overflow запрещен ChatGPT через несколько дней после его выпуска 30 ноября 2022 г. из-за опасений по поводу неточных ответов, которые кажутся правдоподобными.

Основная проблема заключается в том, что, хотя ответы ChatGPT имеют высокий уровень ошибок, они обычно Кажется, что они может быть Будь хорошим и ответы очень Его легко производить», — говорится в сообщении Stack Overflow, обновленном четыре дня назад. Масштабы этих ответов (в тысячах) … фактически затопили инфраструктуру регулирования качества, основанную на добровольцах. «

Говорят, что Samsung рассматривает возможность создания собственного ИИ для предотвращения будущих инцидентов, хотя, возможно, инженеры смогут обойти любые меры, используя ChatGPT на персональных устройствах. Microsoft Bing и Google Bard также могут обнаруживать ошибки в строках кода, поэтому блокировка ChatGPT не является надежным решением.