OpenAI оновить механізми безпеки ChatGPT після позову батьків через самогубство підлітка

OpenAI оголосила про зміни в ChatGPT, спрямовані на кращу підтримку користувачів у стані психоемоційної напруги. Зокрема, модель зможе пояснювати ризики для здоров’я, наприклад наслідки тривалої відсутності сну, і радити відпочинок. Компанія також обіцяє посилити захист у діалогах, де йдеться про самогубство, оскільки нинішні запобіжники можуть давати збої під час довгих розмов.

Крім того, OpenAI розробляє систему батьківського контролю, яка дасть змогу дорослим визначати правила використання ChatGPT дітьми та бачити деталі їхніх сесій.

OpenAI заявила, що вже спрямовує користувачів із суїцидальними думками до професійної допомоги. В ЄС і США додано посилання на локальні служби підтримки, а найближчим часом у ChatGPT з’явиться можливість натискання для прямого звернення до екстрених служб. Компанія також вивчає варіант створення мережі ліцензованих спеціалістів, із якими можна буде з’єднатися через чатбот.

Випадок із позовом проти OpenAI — не єдиний. На компанії-конкуренти також подають позови, звинувачуючи їх у розробці небезпечних чатботів. Паралельно понад 40 генеральних прокурорів США звернулися до ШІ-компаній із попередженням, що вони юридично зобов’язані захищати дітей від небезпечних взаємодій із ШІ.

Джерело: Bloomberg