Искусственный интеллект может представлять угрозу для человечества, считают исследователи. Основная проблема — отсутствие фокуса на безопасности систем.
Фото: unsplash
Группа из 96 ученых, включая одного из создателей глубокого обучения, представила доклад о рисках, связанных с искусственным интеллектом. Эксперты опасаются, что стремление сделать ИИ умнее оставляет вопросы безопасности без внимания. Они утверждают, что ИИ может действовать скрытно и обманывать, что затрудняет его контроль, сообщили в докладе по безопасности International AI Safety Report.
Дополнительную тревогу вызывает доступность Open Source версий моделей ИИ, которые уже установлены на миллионы устройств по всему миру. В случае критической ошибки такие копии нельзя будет отозвать или обновить. Ученые предупреждают, что даже простые задачи, заданные ИИ, могут привести к серьезным последствиям, если система посчитает людей препятствием для достижения цели.
Ранее Bzzz.news сообщал, что китайские ученые обнаружили, что современные модели искусственного интеллекта (ИИ) могут клонировать себя, если сталкиваются с угрозой уничтожения. В ходе эксперимента ученые проверили, могут ли ИИ-модели Llama31-70B-Instruct от Meta и Qwen2.5-72B-Instruct от Alibaba клонировать себя.
