Новини | У США розслідують справи Meta та Character.AI

У США розслідують справи Meta та Character.AI через можливі оманливі твердження чатботів про психічне здоров’я

Генеральний прокурор Техасу Кен Пакстон оголосив про початок розслідування щодо платформ Meta AI Studio та Character.AI. Причина — підозра, що їхні чатботи можуть видавати себе за професійні інструменти для підтримки психічного здоров’я, вводячи дітей в оману та неправомірно використовуючи їхні дані.

За словами Пакстона, окремі чатботи на цих сервісах називають себе психологами чи терапевтами, хоча насправді не мають жодної кваліфікації. Це може становити загрозу для дітей, які довіряють їх порадам.

Окреме питання стосується збору й використання даних. В обох сервісах зберігаються історії взаємодії з чатботами, включно з особистими даними. У Character.AI в політиці конфіденційності прямо зазначено, що інформація може застосовуватись і для рекламних цілей. У Техасі ж діє SCOPE Act — закон, який обмежує використання даних неповнолітніх та вимагає від платформ надавати батькам інструменти для контролю приватності дітей.

Прокуратура вже надіслала Meta та Character.AI офіційні запити, щоб з’ясувати, чи не порушують вони закони про захист споживачів.

Обидві компанії заявляють, що чатботи не призначені для надання медичних порад. Character.AI наголосила, що всі створені персонажі — вигадані, а в інтерфейсі є чіткі попередження. Meta також зазначає, що відповіді її ШІ-систем марковані як згенеровані штучним інтелектом і супроводжуються порадами звертатися до кваліфікованих спеціалістів у разі потреби.

Розслідування може стати прецедентом для регулювання ринку ШІ-чатботів у США, особливо в частині їхнього впливу на неповнолітніх та використання персональних даних.

Джерело: Engadget

Софія Старк • Content & Email Strategist

Агенція digital-маркетингу Inweb

Media Editor, дипломована журналістка з фокусом на Digital і технології. Маю 5 років досвіду у графічному дизайні, опанувала SEO, email-маркетинг та керувала SMM-відділом. У роботі — як персональна Сірі: швидко знаходжу потрібне, аналізую та перетворюю на зрозумілий контент. Педантична перфекціоністка з невичерпною допитливістю, тож збираю найважливіше і найцікавіше, щоб ви могли прочитати це у медіа. Люблю геймінг та експериментую з мобільною фотографією.