Character.AI запустила формат Stories і закрила доступ до чатботів для підлітків через побоювання щодо психологічних ризиків
Character.AI оголосила про запуск нового формату Stories — інтерактивної художньої форми, в якій підлітки можуть створювати вигадані сюжети за участі улюблених персонажів. Формат з’явився після того, як компанія повністю обмежила доступ до чатботів для осіб молодше 18 років.
Рішення пов’язане з побоюваннями щодо психологічних ризиків від безперервної взаємодії з AI-чатами. За останні місяці компанія поступово звужувала доступ для неповнолітніх, а з цього тижня підлітки більше не можуть вести відкриті діалоги з AI-персонажами. У Character.AI пояснили, що Stories дають змогу взаємодіяти з контентом у структурованому форматі та створювати вигадані історії без непередбачуваних відповідей чату.
Реакція аудиторії змішана. Частина підлітків у спільнотах Character.AI заявила, що розчарована втратою звичного формату, тоді як інші вважають зміни доречними та пов’язують їх із надмірною прив’язаністю до чатботів.
Компанія зазначає, що Stories залишатимуться частиною мультимедійних можливостей сервісу та мають забезпечити безпечніший формат для взаємодії з персонажами. У Character.AI сподіваються, що цей крок стане стандартом у галузі щодо роботи з аудиторією до 18 років.
У галузі помітна ширша тенденція приділяти більше уваги впливу ШІ на психічне здоров’я та впроваджувати додаткові механізми безпеки для підлітків і дорослих. OpenAI створила Експертну раду з питань добробуту та штучного інтелекту, до якої увійшли дослідники, що працюють на перетині технологій і ментального здоров’я; рада виконуватиме консультативну роль і допомагатиме компанії вибудовувати довгострокову стратегію розвитку ШІ з урахуванням психологічної безпеки.
На цьому тлі увагу привертають і судові матеріали у справі проти Meta, де позивачі стверджують, що компанія припинила внутрішнє дослідження про вплив Facebook на психічне здоров’я після отримання результатів, які вказували на можливий причинний зв’язок між використанням платформи та погіршенням самопочуття.
Джерело: Tech Crunch
