У соцмережі TikTok виявили десятки коротких відео з расистськими зображеннями, які, за даними організації Media Matters, створені за допомогою генератора відео Google Veo 3. Деякі з них зібрали понад 14 мільйонів переглядів.
Факт виявлення таких відео ставить під сумнів те, наскільки ефективно працюють механізми модерації штучного інтелекту і платформ, коли мова йде про мову ворожнечі. Сучасні генератори відео на базі ШІ, зокрема Google Veo 3, створюють контент за кілька секунд. Якщо його не контролювати, подібні інструменти можуть масово відтворювати й поширювати расистський і неприйнятний.
Аналітики Media Matters звернули увагу на водяний знак Veo на відео, а також згадки про Google Veo 3 у хештегах, підписах і назвах акаунтів. Кожен з роликів відповідає технічному обмеженню сервісу — створені відео мають до восьми секунд тривалості.
Google представила Veo 3 у травні 2025 року як інструмент для створення відео й аудіо за текстовим запитом. На сайті компанії вказано, що система блокує шкідливі запити та результати. TikTok також має правила, що забороняють мову ворожнечі та стереотипи щодо вразливих груп.
Проте згаданий контент усе ж потрапив у стрічку й зібрав мільйони переглядів. Це свідчить про вразливість обох систем — і генератора, і самої платформи.
У коментарі The Verge представниця TikTok Аріан де Сельє зазначила, що компанія вже видалила більшість акаунтів, які згадані у звіті. Частину з них заблокували ще до його публікації. Google не надала відповіді на запит.
Подібні відео виявили в YouTube та Instagram, хоча там вони зібрали менше переглядів. Окремі ролики містили також антисемітський або ксенофобський зміст.
Джерело: The Verge
