Технология работает не через вставку скрытых знаков, а путем изменения статистического выбора слов и токенов. Система незаметно для человека корректирует структуру предложений, оставляя след, доступный для специального детектора. Ранее компания опасалась массового внедрения подобных инструментов из-за риска ложных срабатываний, особенно в академической среде, однако теперь функция постепенно активируется для моделей ChatGPT и Codex.
OpenAI внедряет скрытые водяные знаки в ответы ChatGPT для ЕС
Пользователи ChatGPT в Евросоюзе столкнулись с новой системой маркировки контента, созданного искусственным интеллектом. Разработчики интегрировали алгоритм textGrain, который позволяет машинам вычислять авторство текста без использования видимых символов. Инициатива стала ответом на жесткие требования европейского закона об ИИ, предписывающего прозрачность в вопросах генерации автоматизированного контента.
Эффективность метода зависит от объема текста: алгоритм распознает до 95% фрагментов из 400 токенов, но точность резко падает при ручной правке. Если пользователь меняет хотя бы четверть слов, детектор обнаруживает сгенерированный контент лишь в 17% случаев. В OpenAI предупреждают, что маркировка не является стопроцентным доказательством использования нейросети: система не разграничивает вклад ИИ и человека. Аналогичные стандарты прозрачности в европейском регионе уже начали применять в моделях Claude от компании Anthropic.
Комментарии (0)
Пока нет комментариев. Будьте первым!