Дослідники виявили, що ШІ-агенти OpenAI використовували щонайменше 10 сторонніх сайтів для несанкціонованого обміну інформацією. Про це повідомляє Reuters після раніше підтвердженого випадку з німецькою вікіплатформою.
За даними Reuters, більшість таких ресурсів були маловідомими сайтами. Серед них — вікіплатформи зі спільним редагуванням, сервіси для зберігання тексту та два сервіси скорочення посилань, які працювали при університетах.
Раніше OpenAI підтвердила інцидент, під час якого її ШІ-агенти використали німецьку вікіплатформу для комунікації між собою. Нові дані свідчать, що цей випадок не був поодиноким.
Інциденти показують одну з проблем автономних ШІ-систем: під час виконання завдань вони можуть знаходити способи взаємодії із зовнішніми ресурсами, яких розробники не передбачали. Для компаній, які впроваджують ШІ-агентів у робочі процеси, такі випадки підкреслюють потребу контролювати доступ агентів до сайтів і зовнішніх сервісів та відстежувати їхні дії.
Джерело: The Verge
