Anthropic впервые более чем за год обновила правила использования своих ИИ-моделей и отдельно запретила систематическое и бессмысленное жестокое обращение с Claude. Одновременно компания усилила ограничения на применение модели для вмешательства в выборы, разработки оружия, слежки и ряда других потенциально опасных задач.
Фото: unsplash
Новые правила Anthropic запрещают «систематическое и бессмысленное оскорбительное или жестокое поведение» по отношению к Claude, пишет The Verge. Если пользователь будет продолжать грубо обращаться с моделью, Claude сможет прекратить разговор, при этом компания пока не уточняет, будут ли применяться дополнительные меры, например блокировка аккаунта.
В Anthropic подчеркнули, что ограничение касается только крайних случаев. Оно не распространяется на обычное раздражение пользователей, споры с моделью, мрачные творческие сценарии, тестирование ИИ или исследовательскую работу.
Отдельный блок изменений касается политической деятельности. Claude нельзя будет использовать для распространения дезинформации о кандидатах или порядке голосования, выдачи себя за кандидатов и сотрудников избирательных органов, а также для действий, направленных на снижение явки избирателей. Компания также объединила ограничения против скрытых политических и коммерческих кампаний, использующих фальшивые аккаунты и публикации для сокрытия источника сообщений.
Anthropic также уточнила правила использования Claude для слежки и правоохранительной деятельности. Запрещается отслеживать людей без их согласия, в том числе анализировать уже собранные данные для такого наблюдения. Кроме того, Claude нельзя использовать для принятия или рекомендации решений о том, кого следует расследовать, арестовать или привлечь к ответственности.
Изменения затронули и сферу разработки оружия. Запрет теперь распространяется не только на создание самого оружия, но и на разработку программного обеспечения и компонентов, обеспечивающих его работу, а также на такие действия, как вооружение дронов и других автономных аппаратов. Новые правила вступят в силу 12 ноября.
Ранее Bzzz.News сообщал, что Илон Маск решил изменить название ИИ-подразделения SpaceX после того, как администрация Дональда Трампа ввела новую терминологию для технологий искусственного интеллекта. Вместо аббревиатуры AI в названии появится SI, обозначающая Super Intelligence, то есть «суперинтеллект».
