ШІ-браузери залишатимуться вразливими до хакерських атак через підказки агента — OpenAI
Компанія OpenAI заявила, що браузери з вбудованими ШІ-агентами можуть залишатися вразливими до атак типу prompt injection навіть за умови постійного посилення захисту. Йдеться про спосіб атаки, коли приховані інструкції вміщують у вебсторінки або електронні листи, щоб змусити ШІ виконувати небажані дії.
У блозі компанії зазначається, що prompt injection є довгостроковою проблемою, подібною до фішингу або соціальної інженерії в інтернеті. В OpenAI визнають, що режим роботи ШІ-агента в браузері Atlas розширює поверхню атаки, а отже підвищує ризики для безпеки.
OpenAI запустила браузер ChatGPT Atlas у жовтні 2025 року. Майже одразу дослідники безпеки показали, що поведінку браузера можна змінити через приховані інструкції, наприклад у документах Google. Подібні ризики раніше публічно визнавали й інші компанії, зокрема Brave та розробники браузерів з ШІ-функціями.
Проблему prompt injection визнають не лише в OpenAI. На початку грудня National Cyber Security Centre у Великій Британії заявив, що такі атаки, ймовірно, ніколи не вдасться повністю усунути. Регулятор радить зосереджуватися на зменшенні ризиків і наслідків, а не на спробах повністю заблокувати цей тип загроз.
У відповідь OpenAI використовує підхід швидкого тестування та оновлення захисту. Компанія розробила спеціального автоматизованого атакувальника — ШІ-агента, навченого за допомогою підкріплювального навчання, який імітує дії зловмисників і шукає нові способи обійти захист системи ще до того, як їх використають у реальних атаках.
У компанії наголошують, що жодне рішення не може гарантувати повний захист. Тому OpenAI рекомендує обмежувати доступ ШІ-агентів до чутливих даних, вимагати підтвердження перед відправленням повідомлень або платежів і давати агентам чіткі, вузькі інструкції замість загальних повноважень.
Експерти з безпеки також застерігають від завищених очікувань. За словами дослідника компанії Wiz Рамі Маккарті, поєднання автономності та широкого доступу до даних робить такі браузери особливо ризикованими. На його думку, для більшості повсякденних сценаріїв користь від агентних браузерів поки що не переважає потенційні ризики.
Джерело: TechCrunch
