Meta запустила інструмент для перевірки ШІ-зображень і відео, створених у Muse Image
Meta представила вебінструмент, який допомагає визначити, чи створили або відредагували зображення за допомогою нового генератора Muse Image. Сервіс перевіряє наявність невидимого цифрового водяного знака Content Seal, який компанія вбудовує у контент, створений своїми моделями.
За словами Meta, водяний знак зберігається навіть після обрізання зображення, зміни його розміру, стиснення або створення скриншота. Якщо сервіс знаходить Content Seal, це означає, що зображення створили або відредагували через застосунок Meta AI чи сервіс meta.ai. Якщо знак відсутній, система вважає, що зображення, найімовірніше, не обробляли за допомогою цих інструментів.
Наразі перевірка працює лише для зображень, створених або відредагованих у Muse Image. Meta повідомила, що згодом додасть підтримку відео, коли випустить модель Muse Video.
Попри появу окремого вебінструмента, сам чатбот Meta AI поки що не вміє перевіряти походження готових зображень. Якщо завантажити йому картинку, він повідомляє, що не має можливості визначити, чи створив її Meta AI.
Новий інструмент має й інші обмеження. Він не підтримує популярні стандарти цифрового маркування SynthID і C2PA Content Credentials, які використовують інші компанії. Крім того, Meta встановила добові ліміти на кількість перевірок, після перевищення яких сервіс тимчасово припиняє аналіз зображень.
Meta вже отримувала критику через маркування контенту, створеного штучним інтелектом. Раніше Наглядова рада компанії заявляла, що Meta непослідовно застосовує цифрові водяні знаки до матеріалів, створених власними інструментами. Новий сервіс має зробити перевірку такого контенту простішою.
Джерело: Engadget
