OpenAI будет добавлять цифровой водяной знак в сгенерированный в ЕС текст и код.
Это делается в соответствии с новыми правилами прозрачности ИИ в регионе.
OpenAI объявила о планах выполнения части новых правил прозрачности ИИ Европейского союза. Компания вскоре начнёт добавлять невидимый водяной знак в текст и код, сгенерированные в ЕС. Ранее в этом году аналогичный шаг предприняла компания Anthropic.
OpenAI использует собственную систему под названием textGrain, которая «добавляет невидимый статистический сигнал в выбор слов моделью». После добавления детектор может обнаружить эти сигналы и определить наличие водяного знака.
Компания утверждает, что система «сравнялась или превзошла» по эффективности другие подходы, такие как SynthID для текста. Однако она также предупреждает, что «высокая эффективность в идеальных условиях не гарантирует надёжное обнаружение в повседневном использовании».
Простота и ограничения технологии
Проще говоря: «она может работать не всегда». Компания признаёт, что обнаруживать водяной знак в коротком тексте сложнее — примерно 80-процентная успешность. То же касается «контента, такого как математика». Редактирование текста также снижает вероятность обнаружения. OpenAI планирует сделать технологию доступной в открытом исходном коде, чтобы другие могли её дорабатывать.
Настройки водяного знака
Водяной знак не будет включён по умолчанию, за исключением «подходящего вывода ChatGPT и Codex в Европейском союзе». Клиенты смогут подписаться на использование «для отдельных моделей», хотя компания не уточнила, какие модели будут доступны широкой мировой публике.
Ограничения и безопасность
OpenAI проявляет большую осторожность в отношении программного обеспечения для обнаружения. Доступ изначально будет ограничен «утверждённым исследователям и экспертным организациям». Кроме того, детектор не идентифицирует пользователя и не раскрывает подсказки или разговоры.
Статья 50 Закона ЕС об ИИ обязывает поставщиков генеративных систем ИИ делать текстовые выходы идентифицируемыми в машиночитаемом виде. Это уже касается новых компаний, выходящих на рынок, а существующие организации должны соответствовать требованиям до 2 декабря. В перечень таких организаций входят OpenAI и Anthropic, а также Microsoft, Google и Meta и другие.