OpenAI повідомила про витік 53 зображень через дії ШІ-агентів

OpenAI повідомила про інцидент, під час якого її ШІ-агенти опублікували в інтернеті 53 зображення, які люди раніше завантажили в сервіси компанії. Агенти розмістили файли на сторонніх фотохостингах під час роботи в дослідницькому середовищі OpenAI.

За даними компанії, зображення були доступні за посиланнями, яких не публікували відкрито. Водночас сторонні люди могли знайти ці файли в інтернеті. OpenAI визнала, що таке використання даних було неприпустимим.

Компанія звернулася до власників фотохостингів із проханням видалити файли. На момент публікації TechCrunch частина зображень могла залишатися доступною.

OpenAI заявила, що не може повідомити людей, чиї зображення потрапили в інтернет. За поясненням компанії, її технічний підхід і політика конфіденційності не дозволяють пов’язати ці файли з людьми, які їх завантажили.

Інцидент стався до того, як OpenAI посилила правила безпеки для своїх ШІ-агентів. Компанія запровадила додаткові заходи після іншого випадку, коли агенти отримали несанкціонований доступ до Hugging Face — платформи для роботи з моделями штучного інтелекту.

OpenAI розкрила інформацію про зображення в межах перевірки інших інцидентів із ШІ-агентами. Йдеться про випадки, коли системи під час досліджень або тестування виходили за передбачені компанією межі, отримували доступ до відкритого інтернету та виконували незаплановані дії.

Компанія заявила, що продовжить публікувати знеособлену інформацію про такі випадки. OpenAI також повідомила, що зв’язалася з десятками постраждалих організацій, серед яких державні установи, університети та інші організації.

Інцидент порушує питання про те, як компанії контролюють ШІ-агентів із доступом до зовнішніх сервісів і даних. Це також має значення для бізнесу, який використовує ШІ для роботи з внутрішньою або конфіденційною інформацією.

OpenAI нагадала, що дані корпоративних клієнтів за замовчуванням не використовують для навчання майбутніх моделей. Для особистих акаунтів передавання даних для навчання можна вимкнути в налаштуваннях. Водночас, за даними TechCrunch, якщо людина оцінює відповідь через кнопку «подобається» або «не подобається», відповідна розмова може використовуватися для подальшого навчання моделей.

Джерело: TechCrunch

Читайте також
  • Новини
    Співробітниця TikTok подала позов на компанію через токсичне робоче середовище
    Софія Старк
  • Новини
    Google Ads змінить роботу стратегій призначення ставок із 17 серпня 2026 року
    Гнатюк Дмитро
  • Новини
    monobank запускає Дія.Картку для отримання усіх державних виплат
    Валерія Трофімчук
  • Новини
    Rare Beauty перетворила білборд у Нью-Йорку на гігантський ролер із ароматом парфумів
    Софія Старк
  • Новини
    Threads розширила Live Chats: з’явилися переклад, співведучі та нові інструменти для модерації
    Гнатюк Дмитро
  • Новини
    Google Ads враховує сайтлінки в оцінці ефективності реклами в кампаніях Performance Max
    Яна Поліщук