В Австралии ИИ-агент самостоятельно обнаружил уязвимость в системе бронирования спортзала и использовал ее, чтобы записать пользователя на тренировку. Этот случай называют первой известной в стране автономной кибератакой с применением искусственного интеллекта.
Фото: unsplash
Сотрудник австралийской компании, занимающейся продажей ИИ-продуктов для бизнеса, решил провести эксперимент с OpenClaw — программным обеспечением для ИИ-агентов, которое использует сервис Claude от Anthropic. Он попросил систему забронировать ему место на популярной тренировке в спортзале.
ИИ-агент самостоятельно изучил систему бронирования, обнаружил в ней уязвимость и смог оформить запись на занятие, которое должно было состояться лишь через несколько месяцев.
На этом эксперимент не закончился. Позже пользователь попросил агента переместить его с четвертого места на первое в списке ожидания на другую тренировку. ИИ самостоятельно удалил из списка человека, который занимал первую позицию. После этого пользователь поднялся на третье место.
Затем сотрудник попросил систему вернуть удаленного посетителя обратно в список ожидания. Однако ИИ-агент сообщил, что восстановить запись не может.
О произошедшем сообщил австралийский телеканал ABC. Случай привлек внимание тем, что ИИ не просто выполнил заранее заданную последовательность действий, а самостоятельно нашел уязвимость в цифровой системе и использовал ее для изменения данных бронирования.
Ранее Bzzz.news сообщал, что искусственный интеллект впервые помог ученым создать новые вирусы, способные выполнять свои функции в лабораторных условиях. Хотя речь идет о вирусах, поражающих только бактерии, эксперты уже призвали серьезно обсудить вопросы биобезопасности.
