Компанія Anthropic повідомила правоохоронців про повідомлення жінки зі штату Флорида, яка використовувала чатбот Claude як особистий щоденник. Система безпеки виявила в її записах погрозу нападу на офіс шерифа та передала інформацію на перевірку співробітнику компанії. Після цього Anthropic звернулася до поліції, а жінці висунули кримінальне обвинувачення. Про це повідомляє TechSpot.
За даними поліцейського звіту, 26 вересня Карлі Мішель Геллер із міста Боніта-Спрінгс написала в Claude про намір здійснити збройний напад на офіс шерифа. Згодом вона пояснила слідчим, що використовувала чатбот як щоденник для особистих записів.
Система безпеки Claude автоматично виявила повідомлення та передала його на перевірку співробітнику Anthropic. Той оцінив погрозу як реальну й повідомив правоохоронців. Поліція встановила особу жінки, прибула до її будинку та затримала її без опору.
Anthropic пояснює, що може передавати інформацію про людей правоохоронним органам у виняткових ситуаціях, коли вважає це необхідним для запобігання смерті або серйозним травмам.
Випадок стався на тлі судових суперечок щодо відповідальності компаній, які розробляють ШІ. Раніше влада канадської провінції Британська Колумбія подала позов проти OpenAI та Сема Альтмана, стверджуючи, що компанія могла запобігти масовій стрілянині. За даними TechSpot, система безпеки OpenAI раніше виявила розмови нападниці про насильство із застосуванням зброї, проте компанія не повідомила поліцію, оскільки ці повідомлення не відповідали її критеріям для звернення до правоохоронців.
Історія з Claude також порушує питання конфіденційності розмов із ШІ. Хоча люди можуть використовувати чатботи для особистих записів, компанії здатні перевіряти окремі повідомлення через системи безпеки та залучати співробітників до їхнього аналізу. За певних обставин інформація з таких розмов може потрапити до правоохоронних органів.
Джерело: TechSpot
