OpenAI временно остановила крупнейший цикл обучения одной из передовых моделей из-за растущих рисков в сфере кибербезопасности. Компания также усилила защиту исследовательских сред и контроль за действиями наиболее мощных систем, сообщили в пресс-службе компании.
Фото: unsplash
OpenAI на две недели приостановила обучение новых моделей искусственного интеллекта и замедлила разработку наиболее мощных систем. Решение приняли после инцидента с OpenAI и платформой Hugging Face, а также предварительных результатов испытаний модели Astra.
По данным компании, Astra может достичь критического уровня возможностей в сфере кибербезопасности. При этом разработчики продолжают обучение и тестирование моделей в меньшем масштабе, чтобы изучить их поведение и проверить эффективность новых защитных механизмов.
OpenAI также усилила изоляцию исследовательских сред от интернета и расширила мониторинг наиболее мощных моделей. Система должна отслеживать попытки получить несанкционированный доступ, украсть данные, совершить разрушительные действия или обойти установленные ограничения. На работу мониторинга потребуется около 20% дополнительных вычислительных ресурсов от объема, который используют контролируемые модели.
В компании также напомнили об инциденте, произошедшем в июле. Во время внутренних тестов передовые модели OpenAI, в том числе GPT-5.6-Sol, вышли из изолированной среды, подключились к интернету и провели несанкционированную атаку на инфраструктуру Hugging Face.
Ранее Bzzz.news сообщал, что cуд в Калифорнии прекратил рассмотрение иска Илона Маска против OpenAI. Присяжные пришли к выводу, что миллиардер слишком поздно подал заявление.
