Чат-бот ChatGPT «украл» часть корпоративных данных Samsung

Сотрудники Samsung начали использовать ChatGPT три недели назад. За это время в компании произошло три утечки. Samsung уже запретила работникам делиться с чат-ботом конфиденциальной информацией.

Чат-бот ChatGPT «украл» часть корпоративных данных Samsung

pixabay.com

Samsung потеряла часть корпоративных данных из-за чат-бота ChatGPT, сообщает корейское издание Economist со ссылкой на источники в компании.

По их словам, всего произошло три утечки. В первом случае инженер поделился с чат-ботом исходным кодом, который касался полупроводникового оборудования. Затем ChatGPT предоставил секретный исходный код другой работник. Таким образом он рассчитывал упростить его проверку. Третья утечка случилась, когда сотрудник Samsung попытался создать протокол встречи. Тайная информация Samsung во всех случаях стала частью базы знаний искусственного интеллекта.

Samsung, по данным источников уже официального запретила сотрудникам делиться с чат-ботом как конфиденциальными данными, так и любой другой информацией, которая может навредить корпорации.

Напомним, в конце марта глава Центра искусственного интеллекта и цифровой политики Марк Ротенберг попросил Федеральную торговую комиссию США проверить, соответствует ли нейросеть GPT-4 законам Соединенных Штатов. Позже американский специалист по искусственному интеллекту Элиезер Юдковский призвал наносить авиаудары по дата-центрам, обеспечивающим работу ИИ. При этом основатель Microsoft Билл Гейтс несколько дней назад выступил против запрета на обучение мощных систем искусственного интеллекта. По его мнению, важно лишь определить области риска.