OpenAI почне додавати невидимі водяні знаки до текстів, які створюють ChatGPT і Codex у Європейському Союзі. Компанія впроваджує технологію, щоб виконати вимоги закону ЄС про штучний інтелект — EU AI Act.
Нові правила прозорості EU AI Act набули чинності 2 серпня 2026 року. Вони передбачають, що компанії мають позначати контент, створений ШІ, у форматі, який можуть розпізнавати інші системи.
OpenAI планує впровадити водяні знаки для відповідних акаунтів ChatGPT і Codex на всіх тарифах у ЄС протягом найближчих тижнів. Розробники, які працюють з OpenAI API, уже можуть увімкнути цю функцію для окремих моделей незалежно від країни. За замовчуванням вона вимкнена. Компанія поки не планує автоматично застосовувати водяні знаки до текстів у всьому світі.
Водяний знак не додає до тексту видимий символ або напис. Технологія змінює вибір слів моделлю так, щоб у тексті формувався прихований шаблон. Спеціальна система може знайти його навіть після копіювання тексту.
OpenAI назвала метод textGrain і опублікувала технічний звіт про його роботу. Над технологією також працювали дослідники з Університету Пенсильванії та Єльського університету. За словами OpenAI, водяний знак не містить інформації про людину, яка створила текст, а під час тестування компанія не зафіксувала суттєвого впливу технології на роботу моделей.
Водночас редагування може ускладнити визначення водяного знака. В одному з тестів OpenAI замінила 10% слів синонімами. Після цього точність виявлення знизилася приблизно з 92% до 66%. Система також гірше працює з короткими текстами, математичними відповідями та перекладами.
Через ці обмеження OpenAI спочатку надасть доступ до інструменту перевірки лише схваленим дослідникам та експертним організаціям. Компанія наголошує, що відсутність водяного знака не підтверджує, що текст написала людина. Позначку може бути складно знайти після значного редагування, а текст також міг створити ШІ іншої компанії.
Водяний знак також не показує, яку частину матеріалу створив ШІ та наскільки людина редагувала текст або впливала на його зміст.
Раніше Anthropic оголосила про водяні знаки для текстів Claude та вирішила застосовувати їх у всьому світі. Anthropic, Google, Meta, Microsoft та OpenAI також приєдналися до кодексу практик ЄС щодо позначення контенту, створеного за допомогою ШІ.
Джерело: TechCrunch
