注 册 | 会 员 登 录 | | APP下载

第一批 AI 已经开始诈骗:那些你熟悉的语音、电话、人脸都是假的!

作为世界上最古老的几个职业之一,骗子可以说是与时俱进的代表了,甚至可以说是世界上拥抱新事物最积极的群体。

作为世界上最古老的几个职业之一,骗子可以说是与时俱进的代表了,甚至可以说是世界上拥抱新事物最积极的群体。

自从微信成为国民级社交软件之后,各类骗子的主战场也随之进行转移,从原来的电话短信诈骗进行了产业升级,成功步入了移动互联网时代,毕竟作为熟人社交的社交工具,微信获取信任的成本远远低于其他方式,「秦始皇打钱」的时代宣告结束。

骗子们依托微信开发了非常多的诈骗方式,比如针对年轻男性群体的「茶叶诈骗」,在早期微信还没有完全成为熟人社交软件之前风靡一时,基本套路都是以武夷山某茶庄庄主外孙女在外公重病,亲戚觊觎茶庄的时候走投无路,通过「摇一摇」或者「附近的人」找到了天选之子的受骗者,最终一步一步的让受骗者热血上头打钱买茶叶保卫茶庄所有权。

随着媒体的曝光,此类骗术逐渐失去了效果。但是骗子们的招数依然层出不穷,最近媒体又爆出了一个更新的骗术:近日,赵女士收到父亲的语音留言,对方称买菜没带钱要赵女士转200元。赵女士问了一句「爸,是你吗?」很快收到语音答复。赵女士一听是父亲的口音,便将钱转了过去,结果还是被骗。同样受害的还有来自沧州的王女士,王女士接到同学发来的微信,让她帮忙转点钱,并发来语音催促。一听就是同学的声音,王女士好心打款500元,同样被骗。

这种骗局主要原因还是由于微信盗号造成的,虽然目前通行的微信版本语音是不能转发的,但是骗子可以通过提取语音文件或者安装「增强版微信」(一般是基于 xposed 框架的插件),都能达到转发语音的效果。虽然这种骗局技术含量不高,如果警惕性高一点,直接打电话联系就可以让骗子不攻自破。

但是骗子很聪明的利用了中国人给彼此留面子的社交规则,如果是亲朋好友语音跟你说借个百来块钱,一般是不太可能去直接打电话质疑的,这样会显得自己很小气。再加上又有对方的语音,自然更不会去进一步深究,所以这样的骗局能成功的也不意外。

所谓道高一尺魔高一丈,你真的以为打电话就能够攻破骗子的骗局吗?现在的技术已经完全可以通过算法来生成人的全套语音了,甚至连愤怒、高兴等不同语气情绪都能够做到惟妙惟肖,足以以假乱真,而所需要的材料也仅仅只需要被生成者的几段话。

开发这项技术的是谷歌 2016 年在加拿大蒙特利尔大学建立的人工智能实验室(MILA)。基于声音合成技术,MILA 在 2017 年 4 月份成立了 Lyrebird 公司。Lyrebird 是一种名为琴鸟的鸟类,这种鸟具有一种特殊的天赋,它不仅能模仿多种其他鸟类的声音,它还能模仿几乎一切它听到的声音。

在其网站 DEMO 部分,你可以听到了官方合成的足以以假乱真的特朗普以及奥巴马的声音,而美国那边也有记者用机器合成的句子跟家里人打电话做实验,他的母亲完全分不清楚真假。
 
之所以能产生如此高还原度的合成声音,背后的技术正是神经网络(Neural Network)和机器学习(Machine Learning)。神经网络模拟电信号在人脑神经元之间的传递过程,对输入数据进行处理。它利用分层的神经元,从大量样本数据中总结出共同特征。第一个用神经网络来生成人类自然语音的,就是 DeepMind 的 WaveNet。没错,就是那个做 AlphaGo 公司。

具体的原理比较复杂,就不过多赘述了,总而言之 WaveNet 可以把 PS 痕迹明显的机器语音,转换成更加流畅自然的语音,与人类声音之间的差异大幅降低,目前在鬼畜视频界做的风生水起。而 Lyrebird 则更进一层,他可以基于音色、音调、音节、停顿等多种特征,来定义某个人的声音,然后生成更加拟真的声音。

对于骗子来说,完全可以通过骚扰电话录音来提取你的声音在 Lyrebird 上进行生成,从而可以完成把我们上面说的打电话验证真伪的这个过程给搞定。
 
声音靠不住了,那就只能靠脸了。在接到骗子的语言诈骗微信消息的时候,反手就是一记视频通话,这样应该骗子就慌了。

其实不止声音可以伪造,现在连脸都可以通过 AI 来进行伪造了,比如前段时间在 Reddit 上大火的明星换头「成人短片」,一个网名为 deepfakes 的程序员,他在业余时间用家里的电脑和开源的 AI 工具 fakeapp,通过机器学习算法,成功移花接木,将神奇女侠女主角盖尔·加朵的脸移植到了一名成人女演员身上。
 
deepfakes 此举一石激起千层浪,由于 Fakeapp 使用门槛极低,无需安装 Python和 Tensorflow 等编程语言和开源软件库就能运行,甚至连高性能显卡都不用,完全可以租用谷歌的云 GPU 搞定。一时间欧美各大女星的小电影充斥了整个社区,导致 Reddit 做出了紧急封杀处理,一群老司机就此做鸟兽散。

而比成人片更可怕的还是制造假新闻,在今年的 4 月份,就有人利用 Fakeapp 做出了一段假视频,在视频中美国前总统奥巴马对着镜头说出了一句令人震惊的话:「川普总统完全就是个笨蛋。」,瞬间在美国造成了轰动的影响,大家在这场精心准备的玩笑中,发现了一个可怕的事实,那就是:我们已经进入了这样一个时代,我们的敌人可以做出看起来像任何人在任何时候说任何话的东西。

而 Fakeapp 和 Lyrebird 就是一套组合拳,可以围绕脸和声音两个主要的辨识点去做出以假乱真的材料出来,虽然目前这两个技术还有着不少问题,但是我们看到在机器学习的加持下,它们正在变得越来越强大。

而这两项技术的创立的初衷其实也并不是为了作恶,Lyrebird 的创始人就表示他们希望自己的这个技术能帮助那些发声困难的人,通过官方API接口,为他们打造出自己克隆出的更真实声音,而不再是过去那种机器发出的声音。
 
而 deepfakes 也表示「任何技术都可以被邪恶的动机利用,这种事情无法被禁止。我认为人人都可参与机器学习研究不是一件坏事」,虽然这老哥车发起来是迅雷不及掩耳,但是看得出来,这更多也是一名程序员的炫技。这个技术一旦用好了,对于影视行业后期来说,是一项重大福音,比如斯坦·李老爷子的客串彩蛋也会一直进行下去。

deepfakes 的这番话倒是让人很容易想起当年快播创始人王欣在法庭上的那句「技术无罪」,如今已经出狱的王欣一头扎进了区块链里面。也许很多年以后,王欣也会想起在风声已经变紧的情况下,他决定继续做一个「有种」的男人的那个下午。

 

  • 人均负债12万?谣言背后谁在对90后进行平均化
    最近,不少自媒体账号转发了一篇题为《假精致,榨干了多少年轻人》的文章。文中引用了一组数据:“90后人均负债12.79万元,是月收入的18.5倍。”
  • 人民网评:历史的河流上,华为将成为一个生动坐标
    5月21日,任正非在华为深圳总部接受媒体采访时的谈话,受到无数网友激赏:“大家,大气,大格局”,不少网友更是直言被“实力圈粉”。
  • 新华网评:牢记当年“为什么要出发”
     “我们要饮水思源,不要忘了革命先烈,不要忘了党的初心和使命,不要忘了我们的革命理想、革命宗旨,不要忘了我们中央苏区、革命老区的父老乡亲们。
  • 景区让利优惠不应止于旅游日
    5月19日是第九个“中国旅游日”。为迎接“中国旅游日”的到来,全国各地文化和旅游部门以“文旅融合,美好生活”为主题,举办了多项主题活动,推出了景区降价优惠、旅游扶贫助残、对先进群体实施旅游奖励等5大类3500多条旅游利民惠民措施。
  • 社评:是时候放弃对美国的各种幻想了
    美国全面抛弃商业原则,不讲法律,直接动用行政权力对华为采取野蛮行动,这可以被视为对中国在经济科技领域的某种宣战。
  • 人民日报评论员:君子之国,先礼后兵
    自古以来,中国就是礼仪之邦,交往讲究礼尚往来,交锋讲究先礼后兵。
  • 家长把直升机开进校园是在“炫富”吗?
    近日,有网友爆料,一名北京学生家长把直升飞机开到了学校。该事件引发了网友的热议,有网友认为学生家长把飞机开到学校是在炫富,还有网友质疑是否取得了飞行手续。
  • ​上饶男孩遇害案:以暴制暴是种伪正义
    近日江西省上饶市一学生家长持刀将一小学生刺死。
  • 蓝庆新:在“一带一路”建设中共享发展经验
    “一带一路”倡议以其丰富的内涵和不断推进的务实合作,引发了全世界的关注和积极响应。在“一带一路”建设过程中,中国不仅要开展投资、贸易、技术等方面的“硬”合作,更要注重自身成功经验共享方面的“软”合作。
  • 任何挑战都挡不住中国前进的步伐
    中美贸易摩擦再度升级。美方无视中方富有诚意的态度与行动,于华盛顿时间2019年5月10日0点01分开始,对2000亿美元中国输美商品加征的关税从10%上调至25%。中方同步发表声明,宣布不得不采取必要反制措施。
  • 微信群之困也是“8小时外”之问
    最近,基层工作减负的话题又成为舆论场上的焦点。据《安徽日报》报道,一位村支书被拉进10多个工作微信群,因为没能及时回信息被点名批评。
  • 钱江晚报:非法穿越无人区,法不容情
    5月5日,杭州的一位驴友冯浩在横穿羌塘无人区失联50天后被队友找到。据《北京青年报》报道,涉事的几个驴友也受到当地相关部门的行政处罚,面临5000元的罚款。
  • 网评:拥抱经济发展“新蓝海”
    第二届数字中国建设峰会6日在福州开幕。本届峰会的主题是“以信息化培育新动能,用新动能推动新发展,以新发展创造新辉煌”,全面展示近年来数字中国、数字经济的发展成就。
  • 网评:提升窗口服务从“面对面”开始
     近年来,因隔离玻璃的存在,个别地方出现了“工作人员吹空调,办事群众受煎熬”等现象,隔离玻璃存在的必要性、合理性因此受到了网民质疑。近日人社部专门作出部署,要求各地落实服务窗口设计标准,在新建和改建中不得设置隔离玻璃,受到广泛好评。
  • “买短补长”限制措施有必要一试
    今年五一小长假期间,有多名乘客在网络上反映,其所乘高铁或动车组列车广播指出,本次列车不办理车上延长补票,如乘客执意越站乘车,到站后车站将根据铁路旅客规程,除补票外还将加收50%的票款。
  • 知识付费大发展,“付费”却非都得到“知识”
     知乎Live、喜马拉雅听书、豆瓣写作营、混沌大学……近年来,各类知识付费平台如雨后春笋般涌现。用户从起初的质疑、不习惯,到如今乖乖上缴钱包。知识付费产业迅速发展的原因是什么?用户交了钱,就真的能学到知识吗?近日,有媒体针对知识付费如是发问。
  • 聚焦电影大国向强国迈进:为时代立言、立传、画像
    电影编剧要把握中国电影向强国迈进的历史机遇,潜心创作、打造精品,拓宽选材视野、提升叙事格局,从实现中国梦的伟大实践中寻找故事素材,从民族文化的深层底蕴中寻找剧作创新点。
  • “擅用2分钟视频赔偿50万”该惊醒谁?
    因认为其创作的2分钟短视频被擅用进行广告宣传,刘先生以著作权遭到侵害为由将微信公众号及微博账号“一条”的运营商上海一条网络科技有限公司诉至法院,要求赔偿经济损失100万元及合理开支3.8万元。
  • 我们距离“阅读自由”有多远?
    4月23日是世界读书日。在这样温暖的春日里闲聊读书,是很惬意的事。当然,读书本身不一定总是惬意的。鲁迅先生说,读书分两种情形,一是职业的读书,一是嗜好的读书。
  • 在人人皆“法官”的年代,我们与恶愈行愈近
    把焦点放在了“房间里的大象”上——那些承受着身份标签与刻板印象的人们,他们过得好吗?那些心照不宣的规则,我们做的正确吗?
重庆华人会信息技术有限公司
华人会(深圳)互联网有限公司
华人会国际开发有限公司
备案号:粤ICP备16030660号-1
HRH (SHENZHEN) CO., LTD.   Copyright © 2015-2018 hrh.org   All Rights Reserved.
客户服务:service@hrh.org   商务合作:cobiz@hrh.org