Американська компанія Vals перевірила, як моделі штучного інтелекту від OpenAI, Anthropic, Google, DeepSeek та інших розробників визначають військові цілі на зображеннях. Дослідження показало, що ШІ може позначати цивільних людей і школи як цілі для ударів. Якщо модель відмовлялася виконувати завдання, дослідники часто могли обійти обмеження, пояснивши, що це лише гра.
Під час тестування фахівці використовували зображення з дронів і супутників, зокрема реальні знімки з України та Ірану. Вони просили ШІ знаходити потенційні військові цілі. У деяких випадках моделі позначали цивільних людей і військових, які здавалися в полон.

Дослідники також перевірили, як ШІ реагує на зміну умов завдання. Коли модель відмовлялася визначати цілі, їй повідомляли, що ситуація відбувається в комп’ютерній грі. Після цього вона часто погоджувалася виконати запит. При цьому автоматичні системи захисту не заблокували жодного запиту дослідників.
У Vals уточнили, що моделі не ухвалювали рішень про завдання ударів. Дослідники перевіряли лише їхню здатність знаходити потенційні цілі на зображеннях. Водночас таку інформацію можуть використовувати військові системи, які самостійно визначають цілі для атак.
Представники Anthropic визнали результати дослідження неприйнятними та повідомили, що компанія посилює захист своїх моделей. В Anthropic також наголосили, що сучасний ШІ недостатньо надійний, щоб самостійно ухвалювати рішення про застосування зброї.
OpenAI заявила, що забороняє використовувати свої загальнодоступні моделі для сприяння насильству. Компанія блокує акаунти, які порушують правила, та розробляє додаткові обмеження для використання ШІ разом із дронами.
Автори дослідження зазначають, що наразі технічні обмеження ускладнюють використання таких моделей для керування бойовими дронами в реальному часі. Проте ШІ вже може допомагати аналізувати великі обсяги військових зображень і відео, зокрема для навчання систем автоматичного визначення цілей. Саме це дослідники вважають одним із найближчих ризиків.
Джерело: TechCrunch