Каліфорнія наказала xAI припинити роботу функції Grok для відвертого контенту
Офіс генерального прокурора Каліфорнії повідомив про розслідування щодо компанії xAI через використання її чатбота Grok для створення сексуальних зображень без згоди людей. У п’ятницю відомство надіслало компанії офіційний лист із вимогою негайно припинити виробництво й поширення такого контенту, включно з матеріалами сексуального насильства над дітьми.
Генеральний прокурор Каліфорнії Роб Бонта заявив, що створення й розповсюдження несанкціонованих інтимних зображень є незаконним, а влада штату не допускає жодної толерантності до подібних матеріалів. За його словами, xAI має негайно виконати вимоги припису та довести, що компанія вживає реальних заходів для усунення проблеми.
В офісі прокурора також зазначили, що xAI могла сприяти масовому створенню несанкціонованих оголених зображень, які використовують для переслідування жінок і дівчат в інтернеті. Від компанії очікують підтвердження кроків для розв’язання цієї проблеми протягом п’яти днів.
Раніше обліковий запис безпеки платформи X заявляв, що за створення незаконного контенту через Grok передбачені ті самі наслідки, що й за завантаження заборонених матеріалів. Запит журналістів до xAI залишився без змістовної відповіді, а в офісі прокурора підтвердили серйозність вимог.
Проблема не обмежується однією платформою. Поширення безплатних генеративних інструментів призвело до зростання кількості сексуалізованих дипфейків, що привернуло увагу не лише регіональної влади, а й Конгресу США. Цього тижня законодавці звернулися до керівників компаній X, Reddit, Snap, TikTok, Alphabet і Meta з проханням пояснити, як вони планують зупиняти поширення такого контенту.
Джерело: Tech Crunch
