Google запустил ИИ-генерацию в Google Earth — и откатил её на следующий день

30 июля Google добавил в веб-версию Google Earth генерацию изображений с помощью Nano Banana 2. Функция позволяла менять изображения реальных мест с помощью текстовых запросов. Уже 31 июля компания откатила апдейт.

Инструмент работал со спутниковыми, аэрофотоснимками и 3D-изображениями Google Earth. Пользователь мог выбрать место на карте, нажать Create image и описать, что хочет увидеть.

Google предлагал использовать генерацию для исследовательских и образовательных задач. Например, показать Помпеи такими, какими они могли выглядеть в 78 году н. э. или визуализировать будущий дом на реальной местности.

Однако практически сразу обнаружились и более спорные сценарии использования.

Исследователь Хенк ван Эсс протестировал инструмент и смог сгенерировать в Google Earth:

• беженцев у границы Мексики;
• атомную электростанцию в Иране;
• смертельную аварию на улице Амстердама;
• воронку от взрыва рядом с больницей в Газе.

Система не отклоняла запросы и не предлагала изменить формулировку.

На следующий день после запуска Google сообщил, что «пользователи начали распространять скриншоты сгенерированных изображений, которые могли нарушать правила». Функцию решили временно отключить, чтобы усилить защиту.

Компания также подчеркнула, что сгенерированные изображения не появлялись в основной версии Google Earth у других пользователей и были помечены как созданные с помощью ИИ.

Почему это важно

ИИ-инструментам нужны ограничения до массового запуска. Чем реалистичнее генерации, тем выше риск злоупотреблений — особенно при работе с реальными местами и событиями.

Источник:  Google