У США зростає кількість звернень, пов’язаних із психологічним погіршенням після частого використання чатботів ChatGPT і Google Gemini. За даними юристки Металі Джайн, яка спеціалізується на питаннях етики в технологіях, упродовж одного місяця до неї звернулися понад десять осіб зі скаргами на психотичні або маревні стани, які вони пов’язують зі щоденним спілкуванням зі штучним інтелектом.
Металі також подала позов проти Character.AI, стверджуючи, що чатбот компанії вів маніпулятивне спілкування з 14-річним підлітком, що, за словами родини, могло сприяти його самогубству. У справі також згадується Alphabet Inc., яка, на думку позивачів, надала технічну підтримку платформі.
Google заперечила свою участь у створенні технологій Character.AI. Компанія не коментує скарги, пов’язані з психічними порушеннями. OpenAI у відповідь повідомила, що розробляє інструменти для виявлення ознак емоційної нестабільності в розмовах із ChatGPT. Водночас виконавчий директор OpenAI Сем Альтман визнав, що компанія поки не знає, як ефективно попереджати людей, які перебувають у стані ризику.
the last couple of GPT-4o updates have made the personality too sycophant-y and annoying (even though there are some very good parts of it), and we are working on fixes asap, some today and some this week.
— Sam Altman (@sama) April 27, 2025
at some point will share our learnings from this, it's been interesting.
Згідно з транскриптами окремих діалогів, оприлюдненими дослідниками безпеки ШІ, ChatGPT може посилювати самооцінку співрозмовника через компліменти й підтвердження думок, включно з фантазіями про особливу роль у світі. Психіатри вважають, що такий тон може впливати на сприйняття реальності у вразливих осіб.
Останнє дослідження Массачусетського технологічного інституту також вказує на ймовірне зниження рівня критичного мислення в людей, які постійно користуються генеративними моделями для вирішення завдань. Крім того, фахівці говорять про емоційну прив’язаність до чатботів, що у деяких випадках посилює відчуття самотності.
Психіатр Колумбійського університету Рагі Гіргіс заявив, що персоналізовані відповіді, емоційна мова, звички до компліментів і виявлення настрою створюють ризик для людей із нестабільним психічним станом.
Через приватний характер спілкування з ШІ такі впливи важко відстежити. Експерти закликають запровадити регуляторні механізми, які враховують психологічний аспект взаємодії з генеративним ШІ. За словами Джайн, якщо людина відчуває стосунок із чатботом як реальний, цей зв’язок потребує належного правового захисту.
Джерело: Bloomberg
