OpenAI внедрит невидимые метки в тексты ChatGPT для Евросоюза
Технология textGrain позволит определять ИИ-контент по статистике слов, но легко обходится редактированием, сообщает OpenAI.
Компания OpenAI добавит невидимые водяные знаки в тексты, создаваемые ChatGPT и Codex. Метки работают за счет изменения статистики подбора слов и не заметны пользователю, но детекторы смогут их распознать.
Метки появятся только у пользователей из Евросоюза из-за требований EU AI Act. Этот закон обязывает разработчиков ИИ маркировать синтетический контент, иначе грозит штраф до 15 млн евро или 3% годового мирового оборота компании. В других странах, включая Узбекистан, метки можно включить добровольно через API.
Детектор распознает метки в 80% текстов длиной 200 токенов и в 95% — длиной 400 токенов. Если заменить 10% слов синонимами, точность падает на 25%, а при изменении 25% текста — до 7–15%. OpenAI утверждает, что метки не влияют на качество генерации и не доказывают, что текст полностью создан ИИ.
