Технология работает незаметно для пользователя: водяной знак не влияет на качество или смысл написанного, но сохраняется даже при копировании и вставке контента. Anthropic планирует выпустить инструменты для проверки таких «отпечатков» сторонними организациями. Этот шаг стал ответом на требования закона Европейского союза об искусственном интеллекте, который обязывает разработчиков обеспечивать прозрачность использования нейросетей.
Claude начнет оставлять цифровые следы в сгенерированных текстах
Разработчики Anthropic встроили в нейросеть Claude невидимую маркировку, позволяющую отследить происхождение текста. Новый защитный механизм вступает в действие автоматически для всех ответов модели, созданных после 2 августа, и призван помочь издателям и образовательным учреждениям выявлять контент, написанный машиной, а не человеком.
Проблема использования ИИ в авторстве обострилась после серии скандалов в книжной индустрии. В последние месяцы издательства и литературные агенты неоднократно отказывались от сотрудничества с авторами, чьи тексты вызывали подозрения в машинном происхождении. Несмотря на внедрение защиты, в самой Anthropic предупреждают: водяной знак не является панацеей. Глубокое редактирование, перевод на другие языки или смешивание с человеческим текстом могут сделать отметку невидимой. Кроме того, наличие маркировки лишь подтверждает участие Claude в процессе написания, но не доказывает, что модель создала произведение целиком.
Комментарии (0)
Пока нет комментариев. Будьте первым!