Компания Anthropic внедряет систему маркировки контента, создаваемого моделями Claude, в тексты встраивают невидимые цифровые водяные знаки, а в файлы – подписанные метаданные по стандарту C2PA. Меры призваны обеспечить соответствие европейскому закону об искусственном интеллекте и добровольному кодексу практики ЕС.
Фото: unsplash/Emiliano Vittoriosi
Чтобы сделать контент, созданный ИИ, более прозрачным, компания Anthropic начала «помечать» тексты, которые генерируют новые модели Claude, сообщает Interesting Engineering. Речь идет о невидимых цифровых водяных знаках. Читатель их не заметит, но специальный инструмент сможет обнаружить метку даже после копирования текста или его частичного редактирования.
Для файлов используют другой подход. Туда добавляют подписанные метаданные по стандарту C2PA, которые показывают, что контент создан ИИ. Все это нужно, чтобы соответствовать европейскому закону об искусственном интеллекте и добровольному кодексу практики ЕС.
Компания обещает опубликовать технические детали, чтобы любой желающий мог проверить контент. Старые версии Claude пока не умеют ставить такие метки, но их планируют обновить в переходный период.
Ранее Bzzz.news сообщал, что специалисты Пензенского государственного университета создали программу на базе искусственного интеллекта, которая поможет врачам диагностировать кардиомиопатию.
