OpenAI представила новий інструмент для виявлення матеріалів сексуального насильства над дітьми та посилила захист ChatGPT

16 листопада 2026 року OpenAI представила нові інструменти для боротьби з матеріалами сексуального насильства над дітьми (CSAM), зокрема зображеннями, які створює штучний інтелект. Компанія розробила систему автоматичного виявлення таких матеріалів, запровадила додаткові попередження в ChatGPT і підготувала рекомендації для розробників та інструменти для правоохоронців.

Новий інструмент аналізує зображення, зокрема ті, які система раніше не перевіряла, і визначає ймовірність наявності матеріалів сексуального насильства над дітьми. Результат допомагає фахівцям вирішувати, які зображення потребують додаткової перевірки. OpenAI розробила систему спільно з Національним центром зниклих та експлуатованих дітей (NCMEC) і надає окремим компаніям безплатний доступ до неї через API.

За результатами попереднього тестування з партнерами, нова система позначає для перевірки на 48% менше зображень, водночас виявляючи таку саму кількість матеріалів із ознаками насильства. Крім того, серед позначених системою зображень імовірність виявити заборонений контент удвічі вища. Це допомагає скоротити обсяг ручної перевірки.

OpenAI також запроваджує додаткові попередження в ChatGPT. Якщо людина намагатиметься отримати матеріали, які сексуалізують дітей, сервіс показуватиме попередження, пропонуватиме звернутися по спеціалізовану допомогу та тимчасово блокуватиме акаунт на 24 години. Повторні порушення можуть призвести до остаточного блокування акаунту. ChatGPT уже забороняє створення таких матеріалів і запити, пов’язані з ними.

Для розробників, які використовують інструменти OpenAI, компанія опублікувала рекомендації щодо запобігання поширенню забороненого контенту, його виявлення та повідомлення про порушення. За даними OpenAI, під час попереднього тестування ці рекомендації допомогли розробникам впровадити засоби захисту дітей і зареєструватися для передавання повідомлень до NCMEC.

Окремо компанія надає правоохоронцям інструменти ШІ для розслідування злочинів проти дітей, зокрема для аналізу великих обсягів даних. OpenAI також проводить навчання для слідчих і підготувала практичний посібник із використання штучного інтелекту в розслідуваннях.

Нові заходи компанія представила на тлі критики щодо безпеки ШІ для неповнолітніх. Раніше некомерційна організація Common Sense Media оцінила технології OpenAI як такі, що становлять неприйнятний ризик для підлітків. Протягом останнього року компанія оновила правила щодо забороненого контенту, посилила обмеження моделей ШІ та представила окрему версію ChatGPT для підлітків.

Джерело: TechCrunch

Читайте також
  • Новини
    У США розслідують справи Meta та Character.AI через можливі оманливі твердження чатботів про психічне здоров’я
    Софія Старк
  • Новини
    Vanish створила незручну шкільну форму, щоб показати сенсорні труднощі дітей з аутизмом
    Гнатюк Дмитро
  • Новини
    OpenAI вручила Tokens Award за внесок у розвиток штучного інтелекту
    Софія Старк
  • Новини
    Meta покращила попередній перегляд посилань у Threads для зручності поширення контенту
    Яна Поліщук
  • Новини
    Hellmann’s випустила роман про вампірів з ароматом часнику 
    Гнатюк Дмитро
  • Новини
    14 тисяч українських продавців приєдналися до маркетплейсу Etsy за останній рік
    Ольга Беспалько