ChatGPT тоже будет помечать сгенерированные тексты невидимыми водяными знаками
ChatGPT будет помечать сгенерированные тексты невидимыми водяными знаками. Об этом объявила OpenAI.
Отмечается, что в течение ближайших недель компания начнет помечать текст, написанный ИИ, при помощи собственной технологии textGrain. Ее внедрят в ChatGPT и Codex для пользователей Евросоюза. Это связано с требованиями закона ЕС об искусственном интеллекте.
При этом пользователи моделей OpenAI API (инфраструктуры для разработчиков и крупных компаний) смогут добавлять водяные знаки в свои тексты уже сегодня. Эта функция будет доступна клиентам API по всему миру, но при желании ее можно будет отключить.
Сам детектор текстовых водяных знаков пока не станет общедоступным. Доступ получат одобренные исследователи и экспертные организации, сказано в заявлении OpenAI.
TextGrain будет встраивать водяной знак за счет того, какие слова ИИ-модель выбирает при генерации. Если она пишет достаточно длинный текст, отмечает OpenAI, возникнет закономерность, которая позволит установить, что он создан при помощи ИИ, но при этом не будет заметна человеку. Детектор OpenAI затем анализирует множество таких выборов и ищет характерный сигнал. При этом водяной знак не позволяет установить конкретного пользователя, его аккаунт, запрос или переписку с ChatGPT. Он также не показывает, какую часть текста написал человек.
OpenAI предупреждает, что технология пока не дает стопроцентной точности: для текстов длиной 200 токенов водяной знак обнаруживается примерно в 80 процентах случаев, а для 400 токенов — примерно в 95 процентах.
Напомним, ранее ИИ-модель Claude компании Anthropic начала помечать весь сгенерированный контент невидимыми водяными знаками. Новая политика маркировки распространяется на все сервисы Claude: потребительское приложение, ориентированную на разработчиков платформу Claude (API), Claude Code, Claude Cowork и Claude Tag, а также на версии Claude, доступные через AWS, Google Cloud и Microsoft Foundry.
