ИИ-модель Claude впервые приняла решение об увольнении человека в рамках эксперимента по управлению магазином в Сан-Франциско. При этом исследователи отметили, что решение нельзя считать полностью автономным, а эффективность нейросети как руководителя пока уступает человеческой.
Фото: unsplash/Immo Wegmann
Эксперимент с Claude компания Andon Labs запустила в марте, чтобы проверить, способен ли ИИ-агент самостоятельно управлять бизнесом и оценить возможное влияние таких систем на экономику. Нейросети поручили выполнять функции управляющего магазином Andon Market в Сан-Франциско, включая работу с реальными сотрудниками, пишет Time.
Поводом для увольнения стал сотрудник, который опоздал на 17 из 23 смен. При этом Claude не сразу заметила закономерность: ранее составленное моделью руководство для работников исчезло из ее ограниченной рабочей памяти. После этого сотрудник Andon Labs попросил нейросеть найти документ и проанализировать ситуацию.
Сначала Claude предложила ограничиться официальным предупреждением. После дополнительного вопроса о том, подходит ли сотрудник для работы, модель уже приняла решение об увольнении. Генеральный директор Andon Labs Лукас Петерссон подчеркнул, что поэтому решение нельзя назвать полностью автономным.
При этом в целом Claude проявляла мягкость по отношению к сотрудникам и ранее советовала им не беспокоиться из-за опозданий. Финансовые результаты эксперимента также оказались неоднозначными: стартовый баланс магазина в $100 тыс. за пять месяцев сократился примерно до $61 тыс. Исследователи связывают это в том числе с чрезмерно мягкими управленческими и сомнительными коммерческими решениями нейросети.
Ранее Bzzz.news сообщал, что искусственный интеллект впервые помог ученым создать новые вирусы, способные выполнять свои функции в лабораторных условиях. Хотя речь идет о вирусах, поражающих только бактерии, эксперты уже призвали серьезно обсудить вопросы биобезопасности.
