Разработчики внедрили новую функцию в чат-версии нейросетей Claude Opus 4 и 4.1. Теперь искусственный интеллект сможет самостоятельно завершать беседу, если пользователь ведет себя оскорбительно или некорректно.
Фото: unsplash
Создатели ИИ Claude внедрили в систему функцию, с помощью которой чат-бот может самостоятельно завершать диалог в случае некорректного поведения собеседника. Как пояснили в компании, это решение является частью программы, направленной на обеспечение комфортной работы нейросетей.
В ходе тестирования выяснилось, что Claude демонстрирует нежелание отвечать на агрессивные или вредоносные запросы. При появлении оскорблений система сначала попытается перевести разговор в конструктивное русло, а при продолжении некорректного поведения – завершит диалог, сообщает Газета.ру.
Пользователь при этом получит уведомление о прекращении общения. Ему будут доступны варианты начать новый чат, отправить отзыв разработчикам или изменить ранее отправленные сообщения.
Специалисты подчеркивают, что большинство пользователей не заметит изменений, так как функция активируется только в крайних случаях.
Ранее Bzzz.news сообщал, что нейросеть Gemini заработала в России.
