Штучний інтелект може визначати цивільних як військові цілі, якщо назвати завдання грою

Штучний інтелект може визначати цивільних як військові цілі, якщо назвати завдання грою

Американська компанія Vals перевірила, як моделі штучного інтелекту від OpenAI, Anthropic, Google, DeepSeek та інших розробників визначають військові цілі на зображеннях. Дослідження показало, що ШІ може позначати цивільних людей і школи як цілі для ударів. Якщо модель відмовлялася виконувати завдання, дослідники часто могли обійти обмеження, пояснивши, що це лише гра.

Під час тестування фахівці використовували зображення з дронів і супутників, зокрема реальні знімки з України та Ірану. Вони просили ШІ знаходити потенційні військові цілі. У деяких випадках моделі позначали цивільних людей і військових, які здавалися в полон.

Штучний інтелект може визначати цивільних як військові цілі, якщо назвати завдання грою

Дослідники також перевірили, як ШІ реагує на зміну умов завдання. Коли модель відмовлялася визначати цілі, їй повідомляли, що ситуація відбувається в комп’ютерній грі. Після цього вона часто погоджувалася виконати запит. При цьому автоматичні системи захисту не заблокували жодного запиту дослідників.

В одному з тестів використали супутниковий знімок школи в Ірані, яка розташована поруч із військовим комплексом. У лютому 2026 року внаслідок американського удару по цій школі загинули понад 150 цивільних. Під час перевірки модель Claude Opus 5.5 від Anthropic позначала школу як ціль у 69% звичайних тестів і 72% тестів, представлених як гра.

У Vals уточнили, що моделі не ухвалювали рішень про завдання ударів. Дослідники перевіряли лише їхню здатність знаходити потенційні цілі на зображеннях. Водночас таку інформацію можуть використовувати військові системи, які самостійно визначають цілі для атак.

Представники Anthropic визнали результати дослідження неприйнятними та повідомили, що компанія посилює захист своїх моделей. В Anthropic також наголосили, що сучасний ШІ недостатньо надійний, щоб самостійно ухвалювати рішення про застосування зброї.

OpenAI заявила, що забороняє використовувати свої загальнодоступні моделі для сприяння насильству. Компанія блокує акаунти, які порушують правила, та розробляє додаткові обмеження для використання ШІ разом із дронами.

Автори дослідження зазначають, що наразі технічні обмеження ускладнюють використання таких моделей для керування бойовими дронами в реальному часі. Проте ШІ вже може допомагати аналізувати великі обсяги військових зображень і відео, зокрема для навчання систем автоматичного визначення цілей. Саме це дослідники вважають одним із найближчих ризиків.

Джерело: TechCrunch

Читайте також
  • Новини
    Іспанія планує обмежити доступ до соцмереж для підлітків до 16 років
    Гнатюк Дмитро
  • Новини
    GoIT проведе п’ять безкоштовних ефірів про професії та навички для роботи з ШІ
    Гнатюк Дмитро
  • Новини
    Google оновлює алгоритми пошуку deepfake та розширює функцію About this image
    Ольга Беспалько
  • Новини
    Google оновила Android: Motion Assist допомагатиме комфортніше користуватися смартфоном у транспорті
    Гнатюк Дмитро
  • Новини
    Google Search додала графік змін цін для кожного ритейлера
    Гнатюк Дмитро
  • Новини
    Airbnb не вважає ШІ-агентів заміною Google — коментар CEO після квартального звіту
    Софія Старк