看到这样一张图你的第一反应是……贴纸?航拍?卫星照片?好吧,首先告诉你它是一张卫星照片。然后呢?你的可能会觉得这个清晰度很高,从太空中的卫星居然可以把路上的街道和车辆拍的这么清楚。但是你大概率不会怀疑这个卫星照片的真实性,因为生活中好像没有这方面的经验。可真相就是这是一张AI根据地图生成的卫星照片!
GAN(对抗生成网络)已经是专栏的常客了,不管是换脸还是动态照片都让人很惊艳,不过今天的这个deepfake satellite还真是打开了一个新世界的大门,第一次见到有人把deepfake和卫星图片结合起来,而且一上来就达到了以假乱真的程度。华盛顿大学的一名地理学教授和他的研究团队近期就利用AI技术训练了可以自动生成卫星照片的生成网络并且探讨了如何识别假照片的可行方案。
训练的过程主要使用了一种叫CycleGAN的模型。首先使用城市B的普通地图和卫星地图,让模型自动在建立两者之间的对应关系。上图中的G网络学习如何把卫星地图转化为普通地图,而F网络学习如何把普通地图转化为卫星地图。最后给模型输入一块块城市A的普通地图AI就会根据学习到的经验生成足以欺骗大众的卫星地图了。从下面的训练过程可以看到模型随着训练的增多对于卫星地图的细节刻画越来越生动。开始只能生成简单的线条,迭代150次之后已经可以生成惟妙惟肖的河流和建筑了。
我们可以设想一下如果这项技术扩散开来会怎么样?现在我们之所以看到卫星照片都默认它是真的就是因为这些照片的成本很高,发布者都是国家机构或者专门的有卫星的大企业。但如果AI可以几乎无成本的从普通地图生成卫星地图,那么以后卫星地图还有可信度吗?设想一个更严重的场景。一支特种部队奉命去摧毁一个恐怖组织。他们事先根据获得卫星地图制定好了战术,可是当到达那个地方一看,原本应该是一座桥的位置其实根本没有的时候那该是怎样一种可怕的场景。所以为了国家安全我们必须投入大量资金全力研发新的技术来对付这种未来可能的攻击。
怎么样看到这你是不是热血澎湃已经被我说服准备拨款了呢?那么很好,美国军方的钱大概率都是这么忽悠来的。笔者在查找相关资料的时候居然发现2019年就有美国军方的一个分析师在这一点上提出中国威胁论。
“The Chinese are well ahead of us. This is not classified info,”The Chinese have already designed; they’re already doing it right now, using GANs — which are generative adversarial networks — o manipulate scenes and pixels to create things for nefarious reasons.”
https://www.defenseone.com/technology/2019/03/next-phase-ai-deep-faking-whole-world-and-china-ahead/155944/
其实只要我们稍微分析一下就知道问题根本没有这么严重,特别是在军事领域。AI确实可以帮助人们快速低成本的生成假的卫星照片,但这不代表在AI技术出现之前人们不可以伪造卫星照片。随便一个会PS的人都可以在一个卫星照片上添加上一个原本不存在的桥,所以PS技术出现这么多年了,国家安全有受到过这方面的威胁吗?再者就算再大意的军方也不会随意相信别人提供的卫星照片,自己的卫星跑过去拍一下不是什么难事吧。反正笔者在国内新闻或论坛上从来没听到过GAN和卫星地图结合的讨论,虽然要实现它从AI技术上并不太难,只是角度很新颖。
本月巡山报告再给大家推荐一个可以实时变声的新玩具——电脑版的Acfun直播伴侣。A站直播伴侣中的变声功能是快手推出的国内首个基于深度学习实时变声工具,玩家可以自由选择“憨憨音”或者”软妹音“,实现音色切换。看来以后直播除了脸不可信,声音这一领域也要沦陷了。
相关文章:
https://www.theverge.com/2021/4/27/22403741/deepfake-geography-satellite-imagery-ai-generated-fakes-threat
https://www.tandfonline.com/doi/full/10.1080/15230406.2021.1910075?journalCode=tcag20
https://posts.careerengine.us/p/60a2003751f3e107aefaece2