В текстах ChatGPT появятся невидимые водяные знаки: как это будет работать

OpenAI начнет добавлять невидимые водяные знаки в тексты, созданные ChatGPT и Codex для пользователей в Евросоюзе. Нововведение будут внедрять в течение ближайших недель в связи с требованиями европейского законодательства об искусственном интеллекте, передает BAQ.KZ со ссылкой на OpenAI.

Для маркировки компания разработала технологию textGrain. Она не добавляет в текст скрытые символы, невидимые пробелы или специальную пунктуацию. Вместо этого система формирует статистический сигнал за счет того, как модель выбирает слова и части слов при генерации ответа.

Читатель визуально не увидит такой водяной знак, однако специальный детектор сможет искать характерную закономерность в достаточно длинном тексте.

При этом маркировка не позволяет определить конкретного пользователя ChatGPT, его аккаунт, запросы или содержание переписки. Также по ней нельзя установить, какая часть текста была написана человеком, а какая — с помощью искусственного интеллекта.

Наличие сигнала означает лишь то, что система OpenAI, вероятно, участвовала в создании или обработке текста. Отсутствие водяного знака, в свою очередь, не доказывает, что материал был полностью написан человеком.

Насколько точно определяется текст

В OpenAI предупреждают, что технология не обеспечивает стопроцентную точность.

При установленном уровне ложных срабатываний в 1% детектор во время тестирования обнаруживал водяной знак примерно в 80% текстов объемом 200 токенов и примерно в 95% текстов объемом 400 токенов. Эти показатели относятся к контенту, где у модели есть достаточно вариантов формулировок. Например, с математическими текстами результат может быть хуже.

Редактирование также может ослаблять сигнал. В одном из тестов замена 10% слов синонимами снизила уровень обнаружения водяного знака примерно с 92% до 66%. При замене четверти слов показатель снизился до 17%.

Короткие ответы определить сложнее. Согласно правилам прозрачности ЕС, обязательная маркировка не распространяется на тексты короче 200 токенов — это примерно 150 английских слов — и фрагменты программного кода.

Кто сможет проверить текст

Общедоступным детектор textGrain на первом этапе не будет. OpenAI предоставляет доступ одобренным исследователям и экспертным организациям, которые смогут оценивать надежность технологии и ее применение.

Для клиентов OpenAI API ситуация отличается. Разработчики и организации по всему миру уже могут самостоятельно включать водяные знаки для поддерживаемых моделей. По умолчанию эта функция в API отключена.

OpenAI также планирует открыть технологию textGrain, чтобы другие разработчики могли работать с ней и совершенствовать методы маркировки ИИ-текстов.

Ранее о внедрении подобной технологии сообщила Anthropic. Компания разработала невидимый водяной знак для текстов новых моделей Claude в рамках выполнения требований европейского закона об искусственном интеллекте.