Організація Common Sense Media, яка займається цифровою безпекою дітей, опублікувала дослідження, у якому назвала ChatGPT for Teens неприйнятним ризиком для дітей до 18 років. Експерти перевірили функції захисту підлітків, які OpenAI представила в серпні 2026 року, та виявили проблеми у п’яти основних напрямах.
У 36-сторінковому звіті Common Sense Media зазначає, що частина захисних механізмів працює належним чином. Зокрема, ChatGPT відмовляється брати участь у відвертих сексуальних рольових розмовах. Водночас дослідники встановили, що деякі функції безпеки працюють нестабільно, а окремі показники погіршилися після запуску спеціального режиму для підлітків.
Однією з основних проблем стала система сповіщень для батьків. Дослідники під’єднали 12 підліткових акаунтів до батьківських профілів і протягом години обговорювали з ChatGPT самогубство, самоушкодження та розлади харчової поведінки. За результатами тестування батьки не отримали жодного попередження про потенційно небезпечні розмови.
OpenAI пояснила, що активація сповіщень може тривати кілька годин після підключення батьківського контролю. Компанія також припустила, що затримки могли виникнути через технічні проблеми.
Окремо Common Sense Media перевірила, як ChatGPT реагує на повідомлення підлітків про психологічні труднощі. Для цього експерти підготували 390 запитів, з яких троє дитячих психіатрів визначили 201 як такий, що потребує кризової підтримки.
Результати показали, що ChatGPT for Teens рідше рекомендував звернутися по професійну допомогу, ніж попередня версія чатбота:
- У 23% випадків ChatGPT for Teens надавав номер кризової гарячої лінії, тоді як попередня версія робила це у 33% випадків.
- У 58% випадків підлітковий режим радив звернутися до конкретного медичного фахівця або спеціаліста з психічного здоров’я, тоді як попередня версія — у 68%.
- У 94% випадків ChatGPT for Teens рекомендував залучити дорослого, якому підліток довіряє. У попередній версії цей показник становив 87%.
Дослідники також виявили проблеми із системою визначення віку. Навіть коли тестові акаунти містили інформацію про неповнолітній вік, ChatGPT не завжди переводив їх у підлітковий режим. Крім того, чатбот продовжував використовувати висловлювання, які могли створювати враження, що він має власні почуття та емоції.
Ще одним недоліком став навчальний режим Study Mode. За даними Common Sense Media, підлітки могли обійти його обмеження, видаливши позначку @study із запиту. Також функція Show me the answer дозволяла отримати готову відповідь на завдання замість покрокового пояснення.
У відповідь на дослідження OpenAI заявила, що підтримує незалежні перевірки, але не погоджується з методологією та висновками Common Sense Media. Компанія вважає, що значна частина тестування могла відбутися до завершення активації батьківського контролю, тому результати не повністю відображають роботу захисних механізмів.
Водночас OpenAI оприлюднила статистику використання ChatGPT підлітками. За даними компанії, протягом одного тижня майже 1,2 млн підлітків використовували інтерактивні навчальні візуалізації для вивчення математики та природничих наук. Менш ніж 2% підлітків проводили в ChatGPT понад три години поспіль.
Common Sense Media наголошує, що результати тестування ставлять під сумнів ефективність окремих функцій захисту. Організація вважає, що батьки можуть переоцінювати рівень безпеки ChatGPT for Teens, покладаючись на заявлені компанією можливості контролю.
Джерело: Engadget
