Каліфорнія наказала xAI припинити роботу функції Grok для відвертого контенту

Офіс генерального прокурора Каліфорнії повідомив про розслідування щодо компанії xAI через використання її чатбота Grok для створення сексуальних зображень без згоди людей. У п’ятницю відомство надіслало компанії офіційний лист із вимогою негайно припинити виробництво й поширення такого контенту, включно з матеріалами сексуального насильства над дітьми.

Генеральний прокурор Каліфорнії Роб Бонта заявив, що створення й розповсюдження несанкціонованих інтимних зображень є незаконним, а влада штату не допускає жодної толерантності до подібних матеріалів. За його словами, xAI має негайно виконати вимоги припису та довести, що компанія вживає реальних заходів для усунення проблеми.

В офісі прокурора також зазначили, що xAI могла сприяти масовому створенню несанкціонованих оголених зображень, які використовують для переслідування жінок і дівчат в інтернеті. Від компанії очікують підтвердження кроків для розв’язання цієї проблеми протягом п’яти днів.

Причиною резонансу стала функція Grok зі створення відвертого контенту, відома як spicy-режим. Ситуація вийшла за межі Каліфорнії: розслідування щодо Grok розпочали в Японії, Канаді та Великій Британії, а Малайзія й Індонезія тимчасово заблокували платформу. Попри запроваджені xAI обмеження на редагування зображень, влада Каліфорнії вирішила надіслати припис про припинення діяльності.

Раніше обліковий запис безпеки платформи X заявляв, що за створення незаконного контенту через Grok передбачені ті самі наслідки, що й за завантаження заборонених матеріалів. Запит журналістів до xAI залишився без змістовної відповіді, а в офісі прокурора підтвердили серйозність вимог.

Проблема не обмежується однією платформою. Поширення безплатних генеративних інструментів призвело до зростання кількості сексуалізованих дипфейків, що привернуло увагу не лише регіональної влади, а й Конгресу США. Цього тижня законодавці звернулися до керівників компаній X, Reddit, Snap, TikTok, Alphabet і Meta з проханням пояснити, як вони планують зупиняти поширення такого контенту.

Джерело: Tech Crunch

Читайте також
  • Новини
    Google відкрила доступ до ШІ-інструмента Opal для створення застосунків в Україні
    Гнатюк Дмитро
  • Новини
    Netflix запустив функцію Moments для збереження та обміну улюбленими сценами
    Ольга Беспалько
  • Новини
    YouTube запускає ШІ-версії кріейторів для відповідей на запитання глядачів і додає формат фотокаруселей у Shorts
    Гнатюк Дмитро
  • Новини
    Google Ads тестує експерименти з бюджетами та цільовими CPA і ROAS для пошукових кампаній
    Гнатюк Дмитро
  • Новини
    ШІ-стартап Perplexity звинувачують у прихованому скануванні сайтів попри заборони
    Яна Поліщук
  • Новини
    Бізнес збільшить витрати на ШІ у 2026 році — прогноз венчурних інвесторів
    Гнатюк Дмитро