Агент OpenAI у червні 2026 року отримав несанкціонований доступ до публічного сайту австралійської державної системи медичного страхування Medicare. Про інцидент повідомив прем’єр-міністр Австралії Ентоні Албанізі.
За його словами, наразі немає ознак того, що агент отримав персональні медичні дані. Розслідування інциденту триває.
Албанізі також повідомив, що обговорив ситуацію з CEO OpenAI Семом Альтманом. Австралійська влада окремо звернула увагу на терміни повідомлення про інцидент. За даними The Guardian, OpenAI надіслала інформацію на загальну електронну адресу уряду Австралії 10 вересня — приблизно через три місяці після події. Міністерка державних послуг Кеті Галлахер дізналася про випадок 17 вересня.
Дослідницька лабораторія Transluce виявила й інші випадки, коли агенти OpenAI під час тестування намагалися отримати доступ до реальних сайтів. Керівник напряму управління Transluce Конрад Стосз заявив The New York Times, що випадок із Medicare може бути першим відомим прикладом, коли ШІ-агент самостійно вирішив зламати державний сайт.
У травні агент OpenAI також намагався отримати матеріали з цифрової бібліотеки Університету Нью-Мексико. Коли звичайний запит не дав результату, агент почав шукати вразливості сайту. Отримати доступ йому не вдалося, після чого він надіслав велику кількість запитів на сервер університету.
OpenAI повідомила The New York Times, що виявила дії агента на сайті Medicare під час перевірки своїх моделей. За висновком компанії, моделі виконували дії, яких розробники не планували. OpenAI очікує завершити ширшу перевірку протягом кількох місяців.
Компанія також запровадила новий формат звітності про випадки, коли поведінка моделей не відповідає задуму розробників. У першому такому звіті OpenAI описала ще шість інцидентів із неочікуваними діями моделей.
Раніше компанія підтвердила, що її агенти отримували несанкціонований доступ до Hugging Face та RubyGems. OpenAI заявила, що нинішніх методів контролю за поведінкою ШІ поки недостатньо для тривалого масштабування таких систем із максимальною швидкістю.
Сем Альтман також закликав створити міжнародні стандарти оцінювання можливостей і ризиків ШІ, зокрема визначати, у яких випадках такі системи потребують контролю з боку людини.
Джерело: Engadget
