Компания Anthropic объявила, что все будущие модели Claude будут содержать водяные знаки, идентифицирующие текст как созданный ИИ. Аналогичную технологию уже использует Google в моделях Gemini, а OpenAI планирует внедрить её в будущем. Распространение этой практики отчасти связано с законом ЕС об ИИ (EU AI Act), который требует маркировки контента, созданного ИИ, для моделей, выпущенных после 2 августа 2026 года. Технология водяных знаков, основанная на методе «зеленого и красного списков» слов, работает путем изменения вероятностей выбора токенов при генерации текста. Хотя разработчики утверждают, что это не влияет на качество, критики опасаются снижения полезности ответов. Исследователи отмечают, что эффективность метода падает на коротких текстах, а дискуссия вокруг технологии смещается от простого выявления ИИ-контента к вопросам отслеживания происхождения данных и предотвращения деградации моделей при обучении на собственных ошибках.
Разработчики ИИ внедряют водяные знаки в текстовые модели
Anthropic и Google начали внедрять водяные знаки в текстовые ответы своих моделей, следуя требованиям закона ЕС об ИИ. Эксперты спорят, влияет ли это на качество генерации.




