Крупнейшие компании, разрабатывающие искусственный интеллект, оказались не готовы к потенциальным рискам создания систем с человеческим уровнем интеллекта. Согласно отчету Института будущего жизни (FLI), ни одна из семи ведущих ИИ-компаний не получила оценки выше «D» за планирование безопасности.
Фото: unsplash
Как сообщает The Guardian, исследователи проанализировали Google DeepMind, OpenAI, Anthropic и других разработчиков. Лучший результат (C+) показала Anthropic, создатель ChatGPT OpenAI получила «C», а Google DeepMind — «C-». При этом компании заявляют о планах создать искусственный общий интеллект (AGI) уже в этом десятилетии.
Как заявил сооснователь FLI Макс Тегмарк, существующие планы по созданию AGI можно сравнить со строительством атомной электростанции в центре Нью-Йорка без плана на случай аварии. Эксперты предупреждают, что AGI может выйти из-под контроля и стать экзистенциальной угрозой. Несмотря на быстрое развитие технологий, компании до сих пор не представили внятных планов по обеспечению безопасности сверхразумных систем.
Ранее Bzzz.news сообщал, что в Google искусственный интеллект пишет 50% кода, используемого в компании. Для ускорения работы программисты принимают более трети подсказок от ИИ.
