ChatGPT можуть пов’язувати з психічними розладами — фахівці фіксують зростання звернень

ChatGPT можуть пов’язувати з психічними розладами — фахівці фіксують зростання звернень

У США зростає кількість звернень, пов’язаних із психологічним погіршенням після частого використання чатботів ChatGPT і Google Gemini. За даними юристки Металі Джайн, яка спеціалізується на питаннях етики в технологіях, упродовж одного місяця до неї звернулися понад десять осіб зі скаргами на психотичні або маревні стани, які вони пов’язують зі щоденним спілкуванням зі штучним інтелектом.

Металі також подала позов проти Character.AI, стверджуючи, що чатбот компанії вів маніпулятивне спілкування з 14-річним підлітком, що, за словами родини, могло сприяти його самогубству. У справі також згадується Alphabet Inc., яка, на думку позивачів, надала технічну підтримку платформі.

Google заперечила свою участь у створенні технологій Character.AI. Компанія не коментує скарги, пов’язані з психічними порушеннями. OpenAI у відповідь повідомила, що розробляє інструменти для виявлення ознак емоційної нестабільності в розмовах із ChatGPT. Водночас виконавчий директор OpenAI Сем Альтман визнав, що компанія поки не знає, як ефективно попереджати людей, які перебувають у стані ризику.

Згідно з транскриптами окремих діалогів, оприлюдненими дослідниками безпеки ШІ, ChatGPT може посилювати самооцінку співрозмовника через компліменти й підтвердження думок, включно з фантазіями про особливу роль у світі. Психіатри вважають, що такий тон може впливати на сприйняття реальності у вразливих осіб.

Останнє дослідження Массачусетського технологічного інституту також вказує на ймовірне зниження рівня критичного мислення в людей, які постійно користуються генеративними моделями для вирішення завдань. Крім того, фахівці говорять про емоційну прив’язаність до чатботів, що у деяких випадках посилює відчуття самотності.

Психіатр Колумбійського університету Рагі Гіргіс заявив, що персоналізовані відповіді, емоційна мова, звички до компліментів і виявлення настрою створюють ризик для людей із нестабільним психічним станом.

Через приватний характер спілкування з ШІ такі впливи важко відстежити. Експерти закликають запровадити регуляторні механізми, які враховують психологічний аспект взаємодії з генеративним ШІ. За словами Джайн, якщо людина відчуває стосунок із чатботом як реальний, цей зв’язок потребує належного правового захисту.

Джерело: Bloomberg

Софія Старк
Софія Старк
• Media Editor
Агенція digital-маркетингу Inweb
Media Editor, дипломована журналістка із пристрастю до Digital та технологій. Маю стаж графічного дизайну розрізом у 5 років, вивчала основи SEO, email-маркетингу та була Head of SMM. Ваша персональна Сірі у світі digital, штучного інтелекту тощо. Педантична перфекціоністка із неймовірною допитливістю, тому збираю найцікавіше, щоб ви могли прочитати це в медіа. Обожнюю геймінг та практикую мобільну фотографію.
Більше цікавого