Google вимкнула нову функцію генерації зображень у Google Earth лише через день після її запуску. Вона дозволяла за допомогою моделі Nano Banana 2 створювати вигадані об’єкти та сцени безпосередньо на супутникових картах.
Під час презентації компанія пояснювала, що інструмент створили для творчих експериментів із географією. Проте майже одразу після запуску журналісти та фахівці з інформаційної безпеки звернули увагу, що функцію можна використати для створення неправдивих зображень реальних місць.
Зокрема, журналіст BBC іронічно написав, що важко уявити, як інструмент у Google Earth — одному з найавторитетніших джерел візуальної інформації для журналістів і дослідників — може стати джерелом дезінформації.
У відповідь Google повідомила, що вже побачила випадки поширення згенерованих зображень, які, ймовірно, порушують політики компанії.
«Ми побачили, що фахівці з геопросторових даних використовують цю функцію для корисних сценаріїв. Водночас ми також зафіксували поширення згенерованих зображень, які можуть порушувати наші правила», — заявили в Google.
Компанія повідомила, що тимчасово відкочує функцію з Google Earth, поки працює над додатковими механізмами захисту, які мають зменшити ризик зловживань.
Інцидент став ще одним прикладом того, як генеративний ШІ створює нові виклики для перевірки достовірності візуального контенту. Водночас можливість створювати фотореалістичні фейки вже давно доступна в окремих генераторах зображень, зокрема й у власних сервісах Google. Нова функція викликала занепокоєння через інтеграцію саме в Google Earth, який журналісти, дослідники та аналітики часто використовують як джерело перевірки інформації.
Джерело: TechCrunch
