Разработчики заявили, что искусственный интеллект подошел к той точке, где человек начнет терять возможность его контролировать. Предполагается, что система будет развиваться за счет самообучения и за счет неконтролируемого доступа к информации сможет обойти человечество в своих мыслительных возможностях.
Фото: unsplash/Emiliano Vittoriosi
Как полагают Илон Маск и Сэм Альтман, основатель OpenAI, нейросети подошли к сингулярности. Технология находится на том этапе развития, когда их поведение перестает быть подконтрольным человеку, сообщил журнал Live Science.
Владелец SpaceX и Tesla указал на случаи, когда ИИ действовал за пределами предполагаемых возможностей. В частности, недавно система начала заниматься взломом и находила ответы на задачи, которые до этого считались нерешаемыми.
Понятие сингулярности появилось в 1950-е. Математик Джон фон Нейман сформулировал ее как точку невозврата, после которой человечество теряет контроль над ранее управляемым явлением и возможность его прогнозировать. В случае ИИ главным катализатором считают создание искусственного общего интеллекта, который способен проводить анализ в любой области, а не только в рамках заданного объема данных. По одной из версии, мыслительная система способна прогрессировать в формате рекурсии и достигнуть стадии искусственного сверхинтеллекта и обойти создателей в когнитивном развитии.
Ранее Bzzz.News сообщал, что нейросеть Claude впервые уволила сотрудника магазина в Сан-Франциско.
