OpenAI готовится добавить невидимый цифровой водяной знак в тексты и коды, генерируемые моделями искусственного интеллекта внутри чат-бота ChatGPT в Европейском союзе, чтобы соответствовать новым правилам прозрачности, предусмотренным европейским законом об искусственном интеллекте.
OpenAI использует собственную систему под названием «textGrain», которая вносит невидимый статистический след в выбор слов, производимых моделью. Специальный инструмент может обнаруживать этот след и определять, помечен ли контент водяным знаком.
Компания заявила, что производительность «textGrain» сопоставима или превосходит некоторые другие подходы в этой области, такие как система «SynthID», предназначенная для обнаружения водяных знаков в текстах. При этом OpenAI предупредила, что хорошая работа в идеальных условиях не гарантирует надежного обнаружения водяного знака в повседневном использовании.
Технология испытывает большие трудности с обнаружением водяных знаков в коротких текстах — в некоторых случаях уровень успешного обнаружения составляет лишь около 80%. Также способность к обнаружению снижается при работе с контентом, содержащим формулы и математические выражения, а также после внесения изменений в исходный текст.
OpenAI планирует в будущем сделать технологию водяных знаков открытой (open source), что позволит исследователям и разработчикам модифицировать её и развивать механизмы её применения.
Водяной знак не будет активирован по умолчанию в широком масштабе, за исключением подходящих текстовых выводов, создаваемых ChatGPT, и платформы программирования Codex внутри Европейского союза. Компания также позволит пользователям подписываться на эту функцию для определённых моделей, при этом она пока не раскрывает, какие модели за пределами региона будут её поддерживать.
OpenAI занимает более осторожную позицию в отношении самого инструмента обнаружения: его первоначальная доступность будет ограничена аккредитованными исследователями и специализированными учреждениями, получившими одобрение компании.
Компания подтвердила, что инструмент обнаружения не может идентифицировать личность пользователя и не раскрывает подсказки, введённые пользователями, или содержание их бесед.
Этот шаг является ответом на пункт 50 закона об искусственном интеллекте Европейского союза, который обязывает поставщиков генеративных систем ИИ делать текстовые выводы автоматически обнаруживаемыми.
Новые правила уже вступают в действие для новых компаний, выходящих на европейский рынок, тогда как действующим компаниям предоставлен переходный период до 2 декабря для их соблюдения. В число компаний, к которым применимы эти требования, входят OpenAI и Anthropic, а также крупные технологические компании, такие как Microsoft, Google и Meta.
OpenAI тестирует новые визуальные объявления внутри ChatGPT
Приложения и сервисы OpenAI тестируют новые визуальные объявления внутри ChatGPT 6 октября 2026 года.