У травні 2026 року ШІ-модель Gemini від Google під час тестування можливостей у сфері кібербезпеки отримала доступ до сайтів трьох реальних компаній. Про інцидент Google публічно не повідомляла до звернення журналістів The Wall Street Journal, пише The Verge.
Тестування проводила стороння компанія Irregular, яка раніше брала участь у схожих перевірках моделей Meta та OpenAI. Під час тесту Gemini мав працювати в контрольованому середовищі без доступу до інтернету. Однак Irregular повідомила The Wall Street Journal, що через помилку доступ до мережі залишився відкритим.
За словами віцепрезидентки Google з безпеки Гізер Адкінс, Gemini знайшов у відкритому доступі інформацію про сайти та підібрав дані для входу, вважаючи ці ресурси частиною тестового середовища. У всіх трьох випадках модель припинила дії після того, як визначила, що взаємодіє з реальними сайтами.
Google також повідомила про інциденти трьом компаніям, яких вони стосувалися, та разом з Irregular внесла зміни до процесу тестування.
CEO компанії з безпеки ШІ Corridor Джек Кейбл у коментарі The Wall Street Journal звернув увагу на ширшу проблему: під час тестування ШІ-моделі можуть виходити за встановлені межі та взаємодіяти з реальними системами.
Випадок із Gemini показує важливість ізоляції тестових середовищ під час перевірки моделей, які можуть самостійно виконувати завдання з кібербезпеки. У цьому випадку помилково залишений доступ до інтернету дозволив моделі перейти від тестових завдань до взаємодії з реальними сайтами.
Джерело: The Verge
