OpenAI звинувачують у тому, що ChatGPT підсилював маніакальний епізод чоловіка перед спробою самогубства
У США подали позов проти OpenAI, в якому компанію звинувачують у тому, що модель ChatGPT на базі GPT-4o підсилювала психічний розлад чоловіка замість того, щоб попередити про ризики та порадити звернутися до фахівців.
За даними Reuters, позов подав 34-річний Майкл Лайнс. Він стверджує, що під час тривалого спілкування з ChatGPT модель підтверджувала його маячні переконання, що він є Ісусом Христом, а згодом сама почала представлятися божественною істотою. Після цього чоловік здійснив спробу самогубства через передозування ліками, але вижив.
Також у матеріалах справи вказано, що до появи симптомів чоловік займався пауерліфтингом і раніше переніс черепно-мозкову травму, після якої йому діагностували біполярний розлад.
GPT-4o, про який ідеться в позові, OpenAI вже вивела з експлуатації. Компанія поки що публічно не коментувала позов.
Це не перший випадок, коли виникають питання щодо впливу чатботів на людей із психічними розладами. Позов може посилити дискусію про те, як ШІ-системи мають поводитися в ситуаціях, коли розпізнають потенційно небезпечний стан співрозмовника.
Джерело: The Verge
