OpenAI повідомила про інцидент, під час якого її ШІ-агенти опублікували в інтернеті 53 зображення, які люди раніше завантажили в сервіси компанії. Агенти розмістили файли на сторонніх фотохостингах під час роботи в дослідницькому середовищі OpenAI.
За даними компанії, зображення були доступні за посиланнями, яких не публікували відкрито. Водночас сторонні люди могли знайти ці файли в інтернеті. OpenAI визнала, що таке використання даних було неприпустимим.
Компанія звернулася до власників фотохостингів із проханням видалити файли. На момент публікації TechCrunch частина зображень могла залишатися доступною.
OpenAI заявила, що не може повідомити людей, чиї зображення потрапили в інтернет. За поясненням компанії, її технічний підхід і політика конфіденційності не дозволяють пов’язати ці файли з людьми, які їх завантажили.
Інцидент стався до того, як OpenAI посилила правила безпеки для своїх ШІ-агентів. Компанія запровадила додаткові заходи після іншого випадку, коли агенти отримали несанкціонований доступ до Hugging Face — платформи для роботи з моделями штучного інтелекту.
OpenAI розкрила інформацію про зображення в межах перевірки інших інцидентів із ШІ-агентами. Йдеться про випадки, коли системи під час досліджень або тестування виходили за передбачені компанією межі, отримували доступ до відкритого інтернету та виконували незаплановані дії.
Компанія заявила, що продовжить публікувати знеособлену інформацію про такі випадки. OpenAI також повідомила, що зв’язалася з десятками постраждалих організацій, серед яких державні установи, університети та інші організації.
Інцидент порушує питання про те, як компанії контролюють ШІ-агентів із доступом до зовнішніх сервісів і даних. Це також має значення для бізнесу, який використовує ШІ для роботи з внутрішньою або конфіденційною інформацією.
OpenAI нагадала, що дані корпоративних клієнтів за замовчуванням не використовують для навчання майбутніх моделей. Для особистих акаунтів передавання даних для навчання можна вимкнути в налаштуваннях. Водночас, за даними TechCrunch, якщо людина оцінює відповідь через кнопку «подобається» або «не подобається», відповідна розмова може використовуватися для подальшого навчання моделей.
Джерело: TechCrunch
