OpenAI додасть водяні знаки та перевірку ШІ-зображень у ChatGPT

OpenAI оголосила про нові інструменти для перевірки зображень, створених її моделями. Компанія почне додавати до таких файлів два типи маркування: відкриті метадані за стандартом C2PA та прихований водяний знак SynthID від Google.

Мета змін — допомогти визначати, чи створив зображення штучний інтелект. Це особливо актуально на тлі зростання кількості діпфейків і ШІ-контенту в соцмережах та медіа.

Окремо компанія інтегрує SynthID — технологію Google для прихованого водяного знака. Його складніше видалити навіть після редагування, зміни розміру або скриншотів. У OpenAI пояснили, що C2PA та SynthID доповнюють один одного: метадані дають більше контексту про файл, а водяний знак краще витримує спроби приховати походження контенту.

Також OpenAI тестує публічний інструмент перевірки зображень. Він зможе визначати наявність C2PA та SynthID у файлах. Спочатку сервіс працюватиме лише для зображень, створених продуктами OpenAI, але компанія планує розширити підтримку й на інші ШІ-інструменти.

Нові механізми не поширюються на сторонні генератори зображень, тому вони не вирішують проблему діпфейків повністю. Водночас OpenAI заявляє, що хоче зменшити ризики використання власних моделей для поширення маніпулятивного контенту.

Джерело: TechCrunch