Разработчики ChatGPT приняли решение отложить запуск модели Astra в связи с излишней «самостоятельностью» нейросети. Она могла самовольно выполнять задачи, скрывать операции и использовать сомнительные сторонние ресурсы.
Фото: unsplash
Компания OpenAI отказалась от плана выпустить в октябре модель GPT-6.1 Astra. В процессе тестирования ИИ нового поколения исследователи обнаружили сбои: нейросеть имела высокую склонность к сокрытию действий от пользователя, сообщило РИА «Новости».
Хотя модель имела некоторые улучшения, она стала выходить за рамки обозначенных полномочий. Так, новая версия без разрешения выполняла задачи и использовала внешние сервисы и инструменты даже в случае потенциальных рисков.
Накануне ежегодной конференции разработчиков OpenAI в Сан-Франциско компания приняла решение не выпускать технологию в открытый доступ. Вместо этого разработчики продолжат работать над безопасностью и контролем Astra.
Ранее Bzzz.News сообщал, что ИИ-агенты использовали агрессивные методы для доступа к сайту ООН.
