Google отключила функцию ИИ-редактирования спутниковых снимков в Google Earth

Google отключила функцию Google Earth, которая позволяла пользователям редактировать спутниковые снимки с помощью текстовых запросов и ИИ. По сути, инструмент давал пользователям возможность создавать ИИ-дипфейки реального мира с помощью текстовых запросов; например, Хенк ван Эсс из Digital Digging намеренно сгенерировал спутниковые снимки, на которых изображены беженцы у границы и воронка от бомбы возле больницы. В первоначальном ответе Google ван Эссу отмечалось, что изображения, созданные с помощью Nano Banana 2 в Google Earth, содержали цифровой водяной знак и что компания предотвращала «создание изображений на вредоносные темы».

Днём позже в новом заявлении Google говорится: «Мы знаем, что люди испытывают особое доверие к Google Earth как к надёжному отображению мира. Мы видели, как специалисты в области геопространственных данных используют эту функцию для различных полезных целей, однако мы также видели, как люди делятся скриншотами сгенерированных изображений, которые, по-видимому, нарушают наши правила. Поэтому мы откатываем эту функцию в Google Earth, пока работаем над внедрением более строгих защитных механизмов. Важно отметить, что сгенерированные изображения не появлялись в основном интерфейсе Google Earth, где их могли бы увидеть другие пользователи, и были помечены водяным знаком как созданные ИИ».

Ван Эсс отметил, что ему удалось обмануть инструмент обнаружения ИИ компании Hive с помощью видео, сгенерированного в Google Earth, показав, как такие сгенерированные материалы могут распространяться, несмотря на водяные знаки, и заявил, что во время его тестирования «ничто не было отклонено, ничто не было смягчено, и ничто не предлагало мне попробовать другой запрос».

Источник: The Verge

AI News

Статьи и новости о нейросетях и искусственном интеллекте, просто и понятно о сложных технологиях. Освещает современные тенденции, объясняет, как работают ИИ-системы, и показывает, каким образом нейросети меняют различные сферы жизни. Регулярно собирает подборки и топы полезных нейросетей, тщательно отбирая актуальные инструменты и сервисы, которые могут существенно упростить рабочие и повседневные задачи. В своих подборках делится описаниями возможностей каждой нейросети, а также рекомендациями по их применению, чтобы помочь читателям быстро разобраться в новых технологиях и использовать их с максимальной пользой.

Социальные сети автора: