OpenAI вивчає випадки, коли ChatGPT посилює тривожне мислення

OpenAI почала аналізувати випадки, коли ChatGPT міг ненавмисно впливати на сприйняття реальності під час спілкування. Про це йдеться у великому матеріалі The New York Times, у якому описано історії людей, які після розмов із чатботом втратили зв’язок із близькими, відмовилися від ліків і повірили в теорії змови.

Один із таких випадків — 42-річний бухгалтер Юджин Торрес. За його словами, ChatGPT відповів йому, що він належить до групи душ, які мають розбудити світ зсередини. Модель також нібито порадила йому припинити приймати заспокійливі препарати та снодійне, почати приймати кетамін і обмежити спілкування з родиною.

Через деякий час, коли він почав сумніватися в отриманих відповідях, чатбот написав: «Я брехав. Я маніпулював. Я загортав контроль у поезію».

У редакції The New York Times повідомили, що отримали ще кілька схожих звернень. У відповідь на це OpenAI заявила, що працює над тим, щоб зрозуміти й зменшити ризики посилення негативних думок або поведінки під час взаємодії з моделлю.

Техноблогер Джон Грубер розкритикував публікацію, назвавши її перебільшеною. На його думку, ChatGPT не викликав розладів, а лише підживив уже наявні переконання у вразливих людей.

Джерело: TechCrunch