Фахівці із захисту дітей закликали OpenAI надати докази ефективності механізмів безпеки в ChatGPT for Teens. Вони вважають, що заявлених компанією обмежень недостатньо, щоб рекомендувати сервіс підліткам і батькам без незалежного тестування.
Одна з головних претензій стосується автоматичного визначення віку. ChatGPT має розпізнавати людей молодше 18 років і автоматично переводити їх у режим із посиленими обмеженнями. Однак, за словами керівника напряму оцінювання ШІ та цифрових продуктів Common Sense Media Роббі Торні, OpenAI не оприлюднила показники точності цієї системи — зокрема, як часто вона помилково визначає дорослого як підлітка або не розпізнає неповнолітнього.
Експерти також звертають увагу, що підлітки можуть намагатися обходити визначення віку. Тому від точності цього механізму залежить, чи потрапить людина до захищеного режиму взагалі.
Ще одне питання стосується перевірки небезпечних розмов. OpenAI заявила, що перед сповіщенням батьків позначений системою діалог перевірятиме працівник компанії. OpenAI планує надсилати попередження протягом години після відповідного запиту.
Експерти сумніваються, чи компанія зможе виконувати цю обіцянку у великому масштабі. Виконавчий директор Fairplay Джош Голін закликав OpenAI оприлюднити дані про кількість діалогів, які система щодня передає на перевірку, чисельність команди модераторів і середній час опрацювання одного випадку.
Попереднє тестування також показувало проблеми зі швидкістю сповіщень. У листопаді 2025 року Common Sense Media перевірила батьківські сповіщення ChatGPT. За словами Торні, навіть після повідомлень із прямими згадками про самогубство та завдання собі шкоди попередження надходили через 24–48 годин. У деяких випадках організація не отримала їх узагалі.
Окремо фахівці вказали на залежність системи від батьківського контролю. OpenAI надсилає такі сповіщення лише тоді, коли акаунти підлітка та когось із батьків пов’язані. Компанія не пояснила Engadget, що відбуватиметься, якщо система виявить небезпечну розмову в акаунті без такого зв’язку.
Водночас експерти підтримують саму ідею реагувати на розмови про розлади харчової поведінки та ризик завдання собі шкоди. Доцентка психології та наук про мозок Washington University in St. Louis Еллен Фіцсіммонс-Крафт зазначила, що участь сім’ї може бути важливою частиною допомоги підліткам із розладами харчової поведінки.
Основна вимога фахівців до OpenAI полягає не в додаванні нових правил, а в перевірці того, як уже заявлений захист працює на практиці. Вони закликають компанію проводити незалежне тестування, публікувати дані про точність визначення віку та модерації й оцінювати, чи сповіщення для батьків справді допомагають підліткам.
Джерело: Engadget
