Anthropic объяснила принципы работы невидимых водяных знаков для текста Claude

Компания Anthropic официально пояснила, каким образом планирует внедрять невидимые водяные знаки для текстов, генерируемых искусственным интеллектом Claude. Данная мера принимается для полного соответствия строгим правилам прозрачности ИИ, действующим в Европе.

В пятницу Anthropic объявила, что система маркировки текстов Claude базируется на подходе SynthID-Text — технологии водяных знаков с открытым исходным кодом, разработанной подразделением Google DeepMind. Эта система формирует обнаруживаемые паттерны, используя вероятности выбора определенных слов.

Новый механизм внедрения меток остается полностью незаметным для обычных читателей, однако позволяет специализированным инструментам точно определять искусственное происхождение материала. Это повышает уровень доверия и помогает в борьбе с дезинформацией.

Для технологического сообщества региона подобные глобальные инициативы имеют важное значение, поскольку стандарты регулирования искусственного интеллекта постепенно распространяются по всему миру, влияя на разработчиков и пользователей цифрового контента.