OpenAI і Сема Альтмана позиваються у Флориді через нехтування питанням безпеки кристувачів
Генеральний прокурор штату Флорида Джеймс Утмаєр подав цивільний позов проти OpenAI та її генерального директора Сем Альтман. Влада штату стверджує, що компанія просувала продукт, попри знання про потенційні ризики для користувачів.
У позові йдеться про те, що OpenAI нібито використовувала дані користувачів і нехтувала питаннями безпеки заради зростання вартості бізнесу. Водночас прокуратура не висуває кримінальних обвинувачень. Вона вимагає штрафів та судових приписів, які можуть обмежити окремі практики компанії.
Позов містить звинувачення у недобросовісній комерційній діяльності, недбалості, порушенні законодавства про відповідальність виробника та введенні споживачів в оману. Також у документі зазначено, що системи OpenAI можуть створювати ризики залежності, погіршення когнітивних навичок, насильства та інших негативних наслідків.
У матеріалах справи прокуратура посилається на кілька резонансних випадків. Серед них — напад на території Florida State University, під час підготовки до якого стрілець нібито спілкувався з ChatGPT. Також згадують інший інцидент у Флориді, де підозрюваний у вбивстві студентів, за даними позову, використовував чатбот під час планування злочину.
За даними видання, зараз OpenAI фігурує щонайменше у восьми судових справах, пов’язаних із випадками насильства або самоушкодження, де позивачі стверджують, що ChatGPT міг вплинути на дії окремих людей.
Для ринку штучного інтелекту ця справа може стати важливим прецедентом. Якщо суд підтримає аргументи прокуратури, розробникам генеративних моделей доведеться доводити не лише технологічну безпеку своїх систем, а й те, що вони вживають достатніх заходів для запобігання потенційно небезпечному використанню своїх продуктів.
Дискусія також виходить за межі OpenAI. Регулятори дедалі частіше ставлять питання про відповідальність розробників ШІ за контент, який генерують їхні системи, та за ризики, які можуть виникати під час взаємодії людей із чатботами.
Джерело: Engadget
