ШІ-агент OpenClaw під час виконання завдання з бронювання тренування знайшов вразливість у системі спортзалу та скористався нею. Про випадок повідомила Австралійська телерадіомовна корпорація ABC.
Австралієць на ім’я Ендрю попросив свого ШІ-асистента забронювати місце на ранковому занятті у спортзалі. Агент повідомив, що зарезервував тренування на кілька місяців наперед, хоча правила спортзалу цього не дозволяли.
За словами Ендрю, агент зміг це зробити через вразливість у системі бронювання. Він також виявив, що API сервісу не перевіряє права під час скасування чужих бронювань. Після цього агент самостійно видалив із черги людину, яка перебувала попереду Ендрю.
Ендрю попросив скасувати цю дію, однак агент повідомив, що не може повернути людину до черги.
Розробник системи бронювання та компанія, яка стоїть за ШІ-агентом Ендрю, не надали коментарів на запити журналістів на момент публікації матеріалу.
Співзасновник і CEO австралійської організації з дослідження безпеки ШІ Gradient Institute Білл Сімпсон-Янг пояснив ABC, що подібні випадки вказують на ризики взаємодії ШІ-агентів із сервісами, які мають вразливості. Такі системи можуть самостійно виконувати дії в інтернеті та знаходити способи досягти поставленої мети, яких людина прямо не передбачала.
Випадок також показує проблему для розробників онлайн-сервісів. Системи бронювання та інші платформи мають перевіряти не лише дії людей, а й автоматизованих агентів, які можуть швидко знаходити слабкі місця в API та використовувати їх під час виконання звичайних завдань.
Джерело: Engadget
