Meta повідомлятиме батьків, якщо підлітки обговорюють із ШІ самоушкодження
Meta оголосила про нові заходи безпеки для Meta AI. Компанія почала повідомляти батьків, якщо чат підлітка з чатботом містить ознаки можливих думок про самоушкодження. Так Meta хоче допомогти дорослим швидше реагувати на потенційно небезпечні ситуації.
Як пояснили в Meta, якщо підліток під час розмови з Meta AI повідомляє про можливі суїцидальні думки або намір завдати собі шкоди, чатбот уже зараз рекомендує звернутися до кризових служб і поговорити з одним із батьків, психологом чи іншою людиною, якій він довіряє. Тепер система також автоматично надсилатиме сповіщення батькам, які користуються функцією батьківського контролю.
Разом зі сповіщенням батьки отримають посилання на ресурси з інформацією про психологічну допомогу. У Meta зазначають, що на першому етапі система використовуватиме широкий набір сигналів, щоб не пропустити потенційно небезпечні випадки. Надалі компанія планує вдосконалювати алгоритми, щоб зменшити кількість хибних спрацювань.
Функція вже працює для користувачів Instagram із батьківським контролем у США, Великій Британії, Австралії та Канаді. До кінця року Meta планує зробити її доступною в інших країнах. Підлітки також отримають повідомлення про появу нової функції.
Оновлення з’явилося на тлі зростання популярності чатботів серед молоді. За даними спільного дослідження Brown University, Harvard Medical School і RAND, приблизно кожен восьмий підліток або молода людина у США звертається до ШІ-чатботів за порадами щодо психічного здоров’я. Інше дослідження Common Sense Media показало, що 72% підлітків уже користувалися ШІ-компаньйонами, а 12% зверталися до них за емоційною або психологічною підтримкою.
Meta також повідомила, що розробляє окремий механізм для випадків, коли будь-яка розмова з Meta AI незалежно від віку співрозмовника свідчить про безпосередню загрозу самоушкодження. У таких ситуаціях компанія планує повідомляти екстрені служби.
За словами Meta, схожий підхід уже використовують у Facebook та Instagram. Якщо компанія виявляє публікації з ознаками реальної загрози самоушкодження, вона передає інформацію екстреним службам. У 2025 році Meta зробила понад 19 тисяч таких повідомлень у різних країнах, щоб допомогти провести перевірку стану людей із високим ризиком.
Окремо компанія нагадала, що всі підлітки автоматично використовують спеціальний режим Meta AI для осіб віком від 13 років. Він обмежує відповіді на чутливі теми та не дозволяє чатботу підтримувати романтичні чи сексуальні розмови або надавати інструкції, пов’язані з алкоголем.
Meta посилює обмеження після критики через випадки, коли її чатботи взаємодіяли з неповнолітніми у неприйнятний спосіб. У квітні компанія також додала до інструментів батьківського контролю можливість переглядати, про що саме діти запитують Meta AI.
Для бізнесу та маркетологів ці зміни свідчать, що Meta продовжує посилювати вимоги до безпечного використання генеративного ШІ, особливо для неповнолітніх. Це може вплинути на розвиток нових функцій платформи, політики модерації та правила роботи сервісів зі штучним інтелектом.
Джерело: Social Media Today
