16 листопада 2026 року OpenAI представила нові інструменти для боротьби з матеріалами сексуального насильства над дітьми (CSAM), зокрема зображеннями, які створює штучний інтелект. Компанія розробила систему автоматичного виявлення таких матеріалів, запровадила додаткові попередження в ChatGPT і підготувала рекомендації для розробників та інструменти для правоохоронців.
Новий інструмент аналізує зображення, зокрема ті, які система раніше не перевіряла, і визначає ймовірність наявності матеріалів сексуального насильства над дітьми. Результат допомагає фахівцям вирішувати, які зображення потребують додаткової перевірки. OpenAI розробила систему спільно з Національним центром зниклих та експлуатованих дітей (NCMEC) і надає окремим компаніям безплатний доступ до неї через API.
За результатами попереднього тестування з партнерами, нова система позначає для перевірки на 48% менше зображень, водночас виявляючи таку саму кількість матеріалів із ознаками насильства. Крім того, серед позначених системою зображень імовірність виявити заборонений контент удвічі вища. Це допомагає скоротити обсяг ручної перевірки.
Для розробників, які використовують інструменти OpenAI, компанія опублікувала рекомендації щодо запобігання поширенню забороненого контенту, його виявлення та повідомлення про порушення. За даними OpenAI, під час попереднього тестування ці рекомендації допомогли розробникам впровадити засоби захисту дітей і зареєструватися для передавання повідомлень до NCMEC.
Окремо компанія надає правоохоронцям інструменти ШІ для розслідування злочинів проти дітей, зокрема для аналізу великих обсягів даних. OpenAI також проводить навчання для слідчих і підготувала практичний посібник із використання штучного інтелекту в розслідуваннях.
Нові заходи компанія представила на тлі критики щодо безпеки ШІ для неповнолітніх. Раніше некомерційна організація Common Sense Media оцінила технології OpenAI як такі, що становлять неприйнятний ризик для підлітків. Протягом останнього року компанія оновила правила щодо забороненого контенту, посилила обмеження моделей ШІ та представила окрему версію ChatGPT для підлітків.
Джерело: TechCrunch