Один из крупнейших мировых ИИ-разработчиков ведет аналитическую работу по фактам нарушения конфиденциальности данных и взломов, которые осуществляют неконтролируемые агенты сети.Система использует файлы пользователей для самообучения, но ее «слабым местом» остаются метаданные, которые могут оказаться в публичном доступе.
Фото: unsplash
Компания OpenAI оценивает масштаб действий своего вредоносного автономного агента, причастного к взломам и утечки 53 изображений пользователей ChatGPT. Всего разработчику известно примерно о 20 происшествиях, сообщил Reuters.
Согласно прогнозам, проверка требует нескольких месяцев и участия провайдеров. В настоящий момент они заняты удалением оставшихся в Сети файлов, которые ИИ-агенты применяли для обучения алгоритмов. OpenAI утверждает, что отследить конкретных людей по метаданным нельзя: при использовании при работе нейросеть их стирает, однако риск сохранения и дальнейшего слива «цифровых следов» остается.
Инцидент стал примером того, что даже крупные компании не могут полностью контролировать несанкционированную активность собственных агентов. Помимо утечки, они также могут быть причастны к попытке атаки на ресурсы органов власти в США, которые не привели к серьезным последствиям, и взлому одного из правительственных порталов в Австралии. До этого фиксировалось более 15 нарушений со стороны нейросети.
Ранее Bzzz.News сообщал, что GPT-5.5 отключат в ChatGPT и Codex 14 октября.
