AI 见闻
精选· 重要性 4/5

谷歌地球内置AI图像生成器的问题

The Verge — AI··Stevie Bonifield·约 2 分钟阅读
中文导读

谷歌地球新增AI图像生成功能,可基于卫星图像创建逼真场景,但专家指出该工具易被滥用,可能传播错误信息。

现在,只需输入文本提示词,就能利用谷歌地球的卫星、航空和3D图像生成扭曲现实的图像,例如数字挖掘公司的亨克·范·埃斯生成的这些图像,显示“墨西哥边境附近的难民”和加沙一家医院附近的弹坑。这就是在谷歌地球中内置AI图像生成器的问题所在。

即使有谷歌的水印和限制,正如亨克·范·埃斯已经展示的那样,这种能生成可信航拍图像的工具也极易被滥用。

谷歌回应数字挖掘公司AI修改的图像时表示:“我们严肃对待错误信息——在谷歌地球中使用Nano Banana创建的每张图像都包含SynthID数字水印,因此如果有人对图像不确定,可以询问Gemini应用或使用搜索中的Lens来查看图像是否由AI生成。

”除了在Gemini中使用谷歌的“@verifyai”标签来检查可疑图像外,范·埃斯还建议将其与其他卫星平台(如Sentinel-2或Landsat)进行比较,甚至验证轨道数据,例如声称的拍摄时间和拍摄卫星。

该功能本周早些时候在谷歌地球网页版全球上线,谷歌的博客文章将其定位为可视化历史遗址和房地产项目的工具。

有些图像很容易被识破为伪造,比如狮身人面像与自由女神像的混合体,但我能看出Nano Banana 2功能如何创造出足够可信的图像,从而传播错误信息。

尽管谷歌的水印可能难以去除,但并非不可能被忽略或绕过——数字挖掘公司曾用谷歌地球中一段AI修改的视频骗过了Hive的AI检测器。

原文出处
Here’s the problem with putting an AI image generator in Google Earth

本文为机器翻译辅以 AI 润色,仅供参考。原始事实以原文为准。

相关阅读