Google закликає бізнес готуватись до нових ризиків ШІ — але сама ще не вирішила частину проблем безпеки
COO Google Cloud Френсіс де Соуза заявив, що бізнесу потрібно змінювати підхід до кібербезпеки через поширення ШІ-інструментів і агентів. За його словами, компанії більше не можуть ставитися до безпеки як до другорядної задачі.
В інтерв’ю для TechCrunch він наголосив, що організаціям потрібні не лише ШІ-стратегії, а й окремі підходи до роботи з даними та захистом систем. Особливу увагу де Соуза звернув на так званий «shadow AI» — ситуацію, коли співробітники використовують сторонні ШІ-сервіси без контролю компанії.
За словами топменеджера, сучасні атаки відбуваються значно швидше, ніж раніше. Якщо раніше між зламом і наступним етапом атаки проходило близько восьми годин, то зараз — приблизно 22 секунди. Через це класичні моделі захисту вже не встигають реагувати.
Окремий ризик, який він виділив, — ШІ-агенти всередині компаній. Вони можуть знаходити старі сховища даних або внутрішні сервери, про які організація давно забула. Наприклад, застарілі сервери SharePoint із неоновленими правами доступу.
Де Соуза вважає, що відповіддю на такі ризики має стати «агентний захист», де ШІ контролюватиме безпеку автоматично, а люди лише наглядатимуть за процесом.
Втім, матеріал звертає увагу і на проблеми самої Google у сфері безпеки. Видання The Register повідомило про кілька випадків, коли розробники отримували рахунки на десятки тисяч доларів через несанкціоноване використання API-ключів для моделей Gemini.
У частині випадків API-ключі, які спочатку використовувалися для Google Maps, після змін у політиці Google отримали доступ і до Gemini. Деякі розробники не знали про це, а автоматичне підвищення лімітів витрат дозволяло зловмисникам генерувати великі рахунки.
Наприклад, CEO платформи Prentus Род Данан повідомив про рахунок на понад $10 000 менш ніж за 30 хвилин після компрометації ключа. Інший розробник із Сіднея отримав рахунок приблизно на 17 000 австралійських доларів, хоча очікував, що діє ліміт у $250.
Після публікацій Google повернула кошти постраждалим розробникам, але заявила, що не планує змінювати політику автоматичного підвищення лімітів.
Додатково дослідники компанії Aikido виявили ще одну проблему: навіть після видалення скомпрометованого API-ключа він може залишатися активним до 23 хвилин через затримки синхронізації в інфраструктурі Google.
Автори матеріалу зазначають, що рекомендації Google щодо безпеки залишаються актуальними, але сама компанія поки не встигає повністю адаптувати власні сервіси до темпів розвитку ШІ та нових кіберзагроз.
Джерело: TechCrunch
