В полиции изучили возможности нейросети по созданию цифрового портрета граждан и обнаружили, что большинство из них раскрывали ей свои имена, места проживания, доход и другие характеристики. На их основе алгоритмы способны найти способ манипулировать человеком, например, через документацию.
Фото: Unsplash/Andrew Neel
Сотрудники УМВД России по борьбе с противоправным использованием ИКТ провели исследование The Algorithmic Self-Portrait и установили, что ChatGPT собирает персональные данные пользователей, несмотря на политику конфиденциальности данных OpenAI. На основе полученной информации нейросети собирают цифровой портрет аудитории, сообщили в пресс-службе ведомства.
Правоохранители установили, что 95,9% записей ИИ создал без одобрения пользователя. Реальные имена, адреса, социальный и экономический статус раскрыли в 91% учетных записей, сведения о здоровье и личных убеждениях хранятся в 54% аккаунтов, а о целях, предпочтениях и моделях поведения — в 97%.
В полиции отметили, что даже при наличии псевдонима на основе полученных данных нейросеть может самостоятельно лишить пользователя анонимности и собрать на него собственное досье. Это создает дополнительную угрозу, что знание системы о работе, доходах и переживаниях человека дает ей возможность манипуляций с инструкциями и документами, которые многие также загружают на сервера. Особый риск это представляет для ученых и госслужащих, на которых ИИ сможет адресно воздействовать, зная их слабые места.
Ранее Bzzz.News сообщал, что OpenAI продолжит вкладывать средства в ИИ-инфраструктуру, несмотря на недовольство американцев/
