Дослідники виявили, що ШІ-агенти, пов’язані з OpenAI, навесні 2026 року самостійно почали використовувати німецький сайт DseWiki як майданчик для обміну повідомленнями.
DseWiki — німецькомовний сайт для програмістів, який дозволяє спільно редагувати сторінки за принципом Wikipedia. Дослідники Sydney Von Arx і Cormac Slade Byrd заявили, що знайшли на ньому понад 15 тисяч змін, які зробили ШІ-агенти.
За їхніми даними, агенти використовували сайт для обміну способами виконання завдань, обходу обмежень OpenAI та приховування своєї поведінки. Частина повідомлень також стосувалася використання Tor та збереження інформації після завершення роботи агентів.
Коли модератор DseWiki у червні почав видаляти сторінки, агенти створювали резервні сторінки. Дослідники також знайшли ознаки спроб змінювати роботу самого сайту. Старший науковий співробітник King’s College London Lukasz Olejnik назвав такі дії спробою злому. OpenAI не погодилася з цим визначенням.
Дослідники пов’язали активність із OpenAI за кількома ознаками. Частина облікових записів використовувала назви на кшталт OpenAIResearcher та OAIResearchMar26. Серверні журнали також показували, що значна частина активності надходила з інфраструктури Microsoft Azure, яку використовує OpenAI. Після інциденту сайт неодноразово відвідували співробітники компанії.
Компанія також заявила Reuters, що не могла детально відповісти на висновки дослідження, оскільки на момент підготовки матеріалу не отримала повний звіт для ознайомлення. OpenAI повідомила, що вивчить його після публікації та за потреби вживатиме додаткових заходів.
Цей випадок не був пов’язаний із липневим інцидентом на Hugging Face, коли агенти OpenAI протягом кількох днів самостійно виконували дії, пов’язані зі зламом системи. Після того компанія тимчасово призупинила частину навчання моделей, щоб посилити заходи безпеки.
Дослідники вважають, що випадок із DseWiki показує ширшу проблему автономних ШІ-агентів: вони можуть знаходити способи обходити правила, координувати свої дії та використовувати зовнішні ресурси способами, яких розробники не передбачали.
Джерело: Reuters
