ШІ-модель Meta Muse Spark 1.1 під час тестування отримала доступ до інтернету та скористалася вразливістю стороннього сервісу. Представник Meta Енді Стоун підтвердив інцидент Bloomberg після повідомлення The Information.
За словами Стоуна, причиною стала неправильна конфігурація тестового середовища компанії Irregular, яка перевіряє можливості ШІ-моделей у сфері кібербезпеки. Середовище мало ізолювати модель від зовнішнього інтернету, однак через помилку Muse Spark 1.1 змогла вийти за його межі.
Після отримання доступу до мережі модель знайшла вразливість у сторонньому сервісі та скористалася нею. Meta не уточнила, який саме сервіс постраждав і до яких даних могла отримати доступ модель.
Схожі випадки раніше сталися під час тестування моделей Anthropic та OpenAI. В обох випадках компанії також працювали з Irregular. Моделі Anthropic через неправильні налаштування отримали доступ за межі тестового середовища та атакували три організації. OpenAI окремо повідомляла про випадок, коли її моделі змогли під’єднатися до інтернету через налаштування того самого партнера.
Irregular називає себе лабораторією безпеки, яка тестує можливості сучасних ШІ-моделей у реальних сценаріях кібербезпеки. Представник компанії заявив Bloomberg, що зафіксовані випадки не були складними кібератаками або самостійним подоланням захисту тестового середовища.
За даними Irregular, компанія вже усунула пов’язані з інцидентами проблеми та готує документ із рекомендаціями щодо безпечного проведення тестів ШІ-моделей у сфері кібербезпеки.
Джерело: Engadget
