Офіс генерального прокурора Каліфорнії повідомив про розслідування щодо компанії xAI через використання її чатбота Grok для створення сексуальних зображень без згоди людей. У п’ятницю відомство надіслало компанії офіційний лист із вимогою негайно припинити виробництво й поширення такого контенту, включно з матеріалами сексуального насильства над дітьми.
Генеральний прокурор Каліфорнії Роб Бонта заявив, що створення й розповсюдження несанкціонованих інтимних зображень є незаконним, а влада штату не допускає жодної толерантності до подібних матеріалів. За його словами, xAI має негайно виконати вимоги припису та довести, що компанія вживає реальних заходів для усунення проблеми.
В офісі прокурора також зазначили, що xAI могла сприяти масовому створенню несанкціонованих оголених зображень, які використовують для переслідування жінок і дівчат в інтернеті. Від компанії очікують підтвердження кроків для розв’язання цієї проблеми протягом п’яти днів.
Раніше обліковий запис безпеки платформи X заявляв, що за створення незаконного контенту через Grok передбачені ті самі наслідки, що й за завантаження заборонених матеріалів. Запит журналістів до xAI залишився без змістовної відповіді, а в офісі прокурора підтвердили серйозність вимог.
Проблема не обмежується однією платформою. Поширення безплатних генеративних інструментів призвело до зростання кількості сексуалізованих дипфейків, що привернуло увагу не лише регіональної влади, а й Конгресу США. Цього тижня законодавці звернулися до керівників компаній X, Reddit, Snap, TikTok, Alphabet і Meta з проханням пояснити, як вони планують зупиняти поширення такого контенту.
Джерело: Tech Crunch
