OpenAI оголосила про нові інструменти для перевірки зображень, створених її моделями. Компанія почне додавати до таких файлів два типи маркування: відкриті метадані за стандартом C2PA та прихований водяний знак SynthID від Google.
Мета змін — допомогти визначати, чи створив зображення штучний інтелект. Це особливо актуально на тлі зростання кількості діпфейків і ШІ-контенту в соцмережах та медіа.
Окремо компанія інтегрує SynthID — технологію Google для прихованого водяного знака. Його складніше видалити навіть після редагування, зміни розміру або скриншотів. У OpenAI пояснили, що C2PA та SynthID доповнюють один одного: метадані дають більше контексту про файл, а водяний знак краще витримує спроби приховати походження контенту.
Також OpenAI тестує публічний інструмент перевірки зображень. Він зможе визначати наявність C2PA та SynthID у файлах. Спочатку сервіс працюватиме лише для зображень, створених продуктами OpenAI, але компанія планує розширити підтримку й на інші ШІ-інструменти.
Нові механізми не поширюються на сторонні генератори зображень, тому вони не вирішують проблему діпфейків повністю. Водночас OpenAI заявляє, що хоче зменшити ризики використання власних моделей для поширення маніпулятивного контенту.
Джерело: TechCrunch
