Новини | OpenAI представила план захисту дітей на тлі зростання ризиків через ШІ

OpenAI представила план захисту дітей на тлі зростання ризиків через ШІ

OpenAI представила план Child Safety Blueprint, який спрямований на протидію зростанню випадків експлуатації дітей із використанням ШІ. Документ описує підходи до швидшого виявлення порушень, покращення передачі інформації правоохоронцям і ефективнішого розслідування.

За даними Internet Watch Foundation, у першій половині 2025 року зафіксували понад 8 тисяч випадків контенту сексуального насильства над дітьми, створеного за допомогою ШІ. Зловмисники використовують такі інструменти для створення фейкових зображень і повідомлень для маніпуляцій і шантажу.

План OpenAI передбачає оновлення законодавства з урахуванням AI-контенту, покращення механізмів звітності та інтеграцію захисних обмежень у самі моделі. Компанія розробила його разом із Національним центром зниклих і експлуатованих дітей США та іншими організаціями.

OpenAI також посилила правила для взаємодії з неповнолітніми: моделі не генерують небезпечний контент і не дають порад, які можуть приховувати ризиковану поведінку від батьків. Це продовжує попередні ініціативи компанії у сфері безпеки.

Окремо ініціатива з’явилася на тлі зростання уваги до впливу чатботів на підлітків. Раніше проти OpenAI подали кілька позовів, у яких стверджують, що взаємодія з AI-системами могла вплинути на психічний стан користувачів.

Регуляція ШІ посилюється, і такі ініціативи формують нові вимоги до продуктів, контенту та роботи з даними. Для бізнесу це означає більше обмежень у використанні AI і вищі вимоги до безпеки сервісів.

Джерело: TehcCrunch

Гнатюк Дмитро • News Editor

Inweb

Працюю з текстами так, щоб складне ставало простим і зрозумілим. Швидко знаходжу потрібну інформацію, аналізую та перетворюю її на змістовний контент. Люблю структуру й чіткість, але залишаю місце для експериментів. Цікавлюся музикою, технологіями та культурою, шукаю способи подати їх так, щоб зачепити читача.