Созданная в DeepMind платформа направлена на изучение общего искусственного интеллекта, который по своему развитию может быть равен человеческому мозгу. Несмотря на его потенциал в науке, самообучающийся механизм может достаточно быстро выйти из-под контроля.
Фото: сгенерировано нейросетью Шедеврум
DeepMind, дочерняя компания Google, сообщила на своем сайте об открытии института исследования путей развития Artifical General Intelligence — общего искусственного интеллекта. Для общения ученых и экспертов предполагается использовать платформу DMI. В предприятии уточнили, что скорое появление общего ИИ требует развития междисциплинарного подхода в этой области.
В институте планируют продвигать идеи о безопасном развитии, применении и последствиях AGI для общества. Эту систему считают копией человеческого мозга на когнитивном уровне, хотя она может допускать ошибки при выполнении базовых задач и уступать живым людям по уровню устойчивости и креативности. Тем не менее, общий ИИ может повлиять на развитие медицины, чистой энергетики и экономики.
Вместе с тем нейросети по-прежнему несут риск с точки зрения кибербезопасности, а самосовершенствование технологий может привести к утрате человеком контроля над ними. В связи с этим в Google ставят задачу обеспечить такой уровень безопасности, чтобы положительные стороны развитого ИИ имели преимущество над отрицательными. DeepMind намерен исследовать вопросы о ценностях, сущности человека, принципах управления и адаптации общества к AGI.
Ранее Bzzz.News сообщал, что американские разработчики создают системы экстренного отключения умных агентов.
