Google отключила функцию Google Earth, которая позволяла пользователям редактировать спутниковые снимки с помощью текстовых запросов и ИИ. По сути, инструмент давал пользователям возможность создавать ИИ-дипфейки реального мира с помощью текстовых запросов; например, Хенк ван Эсс из Digital Digging намеренно сгенерировал спутниковые снимки, на которых изображены беженцы у границы и воронка от бомбы возле больницы. В первоначальном ответе Google ван Эссу отмечалось, что изображения, созданные с помощью Nano Banana 2 в Google Earth, содержали цифровой водяной знак и что компания предотвращала «создание изображений на вредоносные темы».
Днём позже в новом заявлении Google говорится: «Мы знаем, что люди испытывают особое доверие к Google Earth как к надёжному отображению мира. Мы видели, как специалисты в области геопространственных данных используют эту функцию для различных полезных целей, однако мы также видели, как люди делятся скриншотами сгенерированных изображений, которые, по-видимому, нарушают наши правила. Поэтому мы откатываем эту функцию в Google Earth, пока работаем над внедрением более строгих защитных механизмов. Важно отметить, что сгенерированные изображения не появлялись в основном интерфейсе Google Earth, где их могли бы увидеть другие пользователи, и были помечены водяным знаком как созданные ИИ».
Ван Эсс отметил, что ему удалось обмануть инструмент обнаружения ИИ компании Hive с помощью видео, сгенерированного в Google Earth, показав, как такие сгенерированные материалы могут распространяться, несмотря на водяные знаки, и заявил, что во время его тестирования «ничто не было отклонено, ничто не было смягчено, и ничто не предлагало мне попробовать другой запрос».
Источник: The Verge
