Meta тимчасово вимкнула функцію обміну розмовами у своєму ШІ-помічнику Muse після того, як дослідники з компанії Claroc виявили понад 6 800 посилань на чати у відкритих інтернет-записах. Частина розмов містила конфіденційну інформацію компаній та особисті дані людей.
Функція Muse дозволяла створювати посилання на розмову з ШІ та надсилати його іншим людям. Однак дослідники з’ясували, що сторонні особи могли знаходити ці посилання без дозволу власників. Причиною став спосіб формування вебадрес: Muse додавав до них назву розмови та випадковий набір символів.
Такі адреси потрапляли до відкритих DNS-записів — системи, яка допомагає знаходити сайти в інтернеті. Завдяки цьому дослідники змогли виявити тисячі посилань за допомогою одного пошукового запиту. Для перегляду доступних сторінок не потрібно було входити в акаунт Muse.
Під час перевірки кількох сотень розмов фахівці Claroc знайшли фінансовий звіт маркетингової компанії, заявку власника малого бізнесу на кредит, річний календар співробітників та конфіденційні нотатки кандидата перед співбесідою. Дослідники також виявили особисті фінансові документи й інформацію про банківські операції.
Представниця Muse Трейсі Клейтон підтвердила, що Meta призупинила функцію обміну чатами. За її словами, компанія вивчає звіт дослідників і розглядає зміни, які мають обмежити можливість стороннього пошуку таких посилань.
Claroc повідомила Meta про проблему 8 жовтня. Після призупинення функції 20 жовтня дослідники повторно перевірили 40 раніше доступних розмов і вже не змогли їх відкрити. Водночас назви та адреси цих сторінок залишилися в історії DNS-записів. Доказів того, що сторонні особи використали знайдену інформацію зі шкідливою метою, дослідники не мають.
Випадок із Muse показує ризики обміну робочою інформацією через ШІ-сервіси. Для компаній це означає необхідність контролювати, які фінансові звіти, внутрішні документи та інші конфіденційні матеріали співробітники передають ШІ-помічникам і поширюють через публічні посилання.
Джерело: The Verge
