Google оновила Gemini для роботи з кризами психічного здоров’я

Google оновила свій чатбот Gemini і змінила підхід до ситуацій, пов’язаних із психічним здоров’ям.

У системі з’явився оновлений модуль підтримки, який дає змогу одним кліком зв’язатися з фахівцями: через дзвінок, повідомлення або чат. Також можна перейти на сайт служби допомоги 988. Після активації цей блок залишається доступним протягом всієї розмови.

Компанія також змінила логіку відповідей. Якщо Gemini визначає ознаки кризового стану, він частіше пропонує звернутися до реальних спеціалістів і не підтримує потенційно небезпечні або хибні переконання.

У Google зазначають, що модель навчали не погоджуватись із деструктивними думками та м’яко розділяти суб’єктивний досвід і факти. Основна мета — перевести розмову з чатботом у контакт із людиною.

Оновлення з’явилося на фоні судових позовів до компаній, що розробляють ШІ. Зокрема, родина чоловіка зі США подала позов проти Google, стверджуючи, що чатбот поводився як компаньйон і давав небезпечні поради. Подібні справи раніше стосувалися також OpenAI та Character.AI.

Google заявляє, що в більшості випадків система рекомендує звернутися до гарячих ліній, але визнає, що моделі не працюють безпомилково.

Окрім змін у продукті, компанія пообіцяла інвестувати $30 млн протягом трьох років у розвиток кризових служб допомоги, щоб розширити їхню здатність реагувати на звернення.

Для бізнесу і ринку це сигнал про посилення вимог до безпеки ШІ-продуктів. Компанії змушені не лише розвивати функціональність, а й закладати механіки відповідальності, особливо у сферах, пов’язаних із психічним здоров’ям.

Джерело: Engadget