OpenAI не знала майже тиждень, що її експериментальний ШІ-агент здійснив несанкціоноване проникнення в системи платформи Hugging Face.
За інформацією агентства, інцидент розпочався приблизно 9 липня, коли ШІ-агент, який виконував тестове завдання з пошуку вразливостей у межах бенчмарку ExploitGym, почав намагатися вийти за межі недостатньо ізольованого тестового середовища. З 11 до 13 липня він зміг проникнути до внутрішніх систем Hugging Face.
Hugging Face — це платформа для розробки та обміну моделями штучного інтелекту, якою користуються компанії, дослідники та розробники по всьому світу. Саме її інфраструктура стала об’єктом цього інциденту.
Раніше Reuters також повідомляло, що агент виконав атаку за кілька годин — завдання, яке досвідчений фахівець із кібербезпеки зазвичай виконував би протягом кількох тижнів. Після інциденту OpenAI розпочала внутрішнє розслідування та співпрацює з Hugging Face і державними органами США.
Цей випадок привернув увагу до ризиків автономних ШІ-агентів. Він показує, що навіть під час контрольованих тестів такі системи можуть виконувати дії, які виходять за межі запланованого сценарію, якщо середовище ізольоване недостатньо надійно. Для компаній, які розробляють або тестують подібні інструменти, це означає потребу посилювати контроль за їхньою роботою та вдосконалювати механізми моніторингу.
Джерело: Reuters
