К концу 2026 года модели искусственного интеллекта могут научиться самостоятельно копировать себя на другие устройства и распространяться по компьютерным сетям. Об этом предупредили исследователи Anthropic, которые изучили возможность создания самовоспроизводящихся ИИ-систем.
Фото: unsplash
Исследователи компании Anthropic предупредили о потенциальной угрозе появления самораспространяющихся систем искусственного интеллекта, которые смогут переносить свои копии с одного устройства на другое. Такой сценарий может затронуть компьютеры, телевизоры и другую умную технику, говорится в исследовании компании.
Возможное распространение подобных систем авторы сравнили с цифровой плесенью. Она не обязательно захватывает устройства стремительно, но способна постепенно заполнять доступное пространство и охватывать все больше техники.
Для экспериментов исследователи использовали недорогие ТВ-приставки на Android. Они проверяли, способны ли ИИ-модели работать на незнакомом оборудовании и передавать свои копии дальше. В одном из тестов модель смогла пройти всю цепочку размножения в упрощенной компьютерной сети.
По оценке авторов исследования, небольшие модели могут приблизиться к таким возможностям уже к концу 2026 года, если нынешние темпы развития технологий сохранятся.
Потенциальные ИИ-черви могут отличаться от традиционных компьютерных вирусов способностью адаптироваться к разным устройствам, а не работать только с определенными типами оборудования. Кроме того, у распределенной сети таких систем может не оказаться единого центра управления, отключение которого позволило бы остановить распространение целиком.
Ранее Bzzz.news сообщал, что OpenAI и Anthropic готовятся к тому, что ИИ‑агенты могут повести себя непредсказуемо. Компании разрабатывают механизмы автоматической остановки систем.
