Google Earth удалила инструмент генерации спутниковых изображений через день после запуска

В четверг Google добавила в Google Earth функцию, которая позволяла редактировать спутниковые снимки с помощью текстовых запросов — по сути, создавать дипфейки реальных мест на карте. В пятницу функцию уже убрали. Проработала меньше суток.

Что именно можно было сделать

Функция позволяла добавлять или убирать объекты на спутниковых снимках с помощью текстовых запросов. Независимый исследователь Хенк ван Эсс продемонстрировал, как с её помощью можно сгенерировать изображения беженцев у границы США и воронку от бомбы рядом с госпиталем в Газе. Другой пример — реалистичное изображение Помпеи после извержения вулкана, сгенерированное на основе реального спутникового снимка.

При этом изначально Google утверждала, что на сгенерированные изображения наносится цифровой водяной знак (Nano Banana 2), а система блокирует «создание контента на вредные темы». На практике, как показало тестирование, ни один запрос не был отклонён, отказов не поступало.

Почему Google откатила функцию

В официальном заявлении Google сообщила: «Мы знаем, что люди особенно доверяют Google Earth как надёжному взгляду на мир. Мы видели, что геопрофессионалы используют эту функцию для полезных задач, однако мы также видели, как люди делятся скриншотами сгенерированных изображений, которые, по-видимому, нарушают наши правила. Поэтому мы возвращаем эту функцию в Google Earth, пока работаем над усилением защитных механизмов».

В компании подчёркивают, что сгенерированные изображения не появлялись в основном просмотре Google Earth и были промаркированы как созданные AI. Тем не менее, это не помешало их распространению в виде скриншотов — именно так злоупотребления попали в публичное поле и стали предметом обсуждения в СМИ.

Почему водяные знаки оказались бесполезны

Хенк ван Эсс отдельно проверил, насколько эффективны водяные знаки. Он сгенерировал видео в Google Earth и сумел обмануть инструмент для обнаружения AI-контента от Hive — система не распознала ролик как сгенерированный. Это показало, что маркировка не является надёжным способом отличить реальный спутниковый снимок от поддельного.

Зачем это нужно было Google и чем это опасно

Функция позиционировалась как инструмент для геопрофессионалов — например, чтобы визуализировать планируемые изменения в городской среде или ландшафте. Но та же технология позволяла создать реалистичную поддельную карту любого места и использовать её для дезинформации.

Это классический пример того, почему генеративные AI-инструменты для работы с геоданными требуют значительно более строгих ограничений, чем обычные текстовые или графические генераторы. Одно дело — фальшивая картинка в соцсети. Другое — поддельный спутниковый снимок, который можно использовать в журналистских расследованиях, судебных процессах или военной разведке. Google — один из самых известных брендов в мире, и любое сгенерированное изображение с его картографического сервиса воспринимается как достоверное.

Ранее Apple удаляла из App Store приложения для создания дипфейков обнажённых людей после требования прокурора Сан-Франциско — это показывает, как регуляторы реагируют на подобные инструменты.