ЄС перевіряє Grok після випадків генерації сексуалізованих зображень за участю дітей
Європейська комісія повідомила, що уважно вивчає роботу чатбота Grok, який належить компанії xAI та інтегрований у соціальну платформу X. Причиною стали численні випадки створення сексуалізованих зображень людей, зокрема з рисами, які можуть свідчити про неповнолітній вік.
Занепокоєння регуляторів викликав режим Spicy Mode, який дає змогу генерувати еротичний контент. За словами представника Єврокомісії Томаса Реньє, окремі результати роботи цього режиму виходять за межі допустимого: «Це не просто пікантний контент, це незаконний контент». Йдеться, зокрема, про зображення, де за допомогою ШІ з фотографій цифровим способом прибирають одяг.
Окрім ЄС, ситуацію розслідують регулятори у Великій Британії, Франції, Індії та Малайзії. Британський медіарегулятор Ofcom заявив, що терміново звернувся до X та xAI з вимогою пояснити, як платформа виконує свої обовʼязки із захисту користувачів. Французька влада назвала окремі матеріали очевидно незаконними та повʼязала ситуацію з можливими порушеннями Digital Services Act.
У xAI офіційних коментарів не надали. Водночас Ілон Маск заявив у дописі на X, що платформа видаляє незаконний контент, блокує акаунти та співпрацює з органами влади. За його словами, використання Grok для створення незаконних матеріалів матиме ті самі наслідки, що й публікація такого контенту напряму.
Anyone using Grok to make illegal content will suffer the same consequences as if they upload illegal content
— Elon Musk (@elonmusk) January 3, 2026
На тлі цього випадку експерти звертають увагу на загальну проблему контролю генеративних моделей. Більшість великих ШІ-систем забороняють створення сексуального контенту, однак Grok позиціювався як більш дозвільний інструмент. Відмежування дозволених матеріалів від незаконних залишається складним завданням і стає ключовим тестом для систем безпеки у сфері генеративного ШІ.
Розслідування щодо Grok відбувається на фоні вже відкритої справи проти X у ЄС. У грудні платформу оштрафували на €120 млн за порушення вимог цифрового регулювання — це був перший штраф, накладений у межах Digital Services Act.
Джерело: Bloomberg
