注 册 | 会 员 登 录 | | APP下载

Google 与五角大楼的军事 AI 合作是怎么变成一场危机的?

李飞飞是新兴人工智能领域最耀眼的明星之一:既是斯坦福大学人工智能实验室的负责人,也是 Google Cloud——搜索巨头 Google 公司最有前景的项目之一——的人工智能首席科学家。没人知道她是如何同时胜任两项高难度工作的。

李飞飞是新兴人工智能领域最耀眼的明星之一:既是斯坦福大学人工智能实验室的负责人,也是 Google Cloud——搜索巨头 Google 公司最有前景的项目之一——的人工智能首席科学家。没人知道她是如何同时胜任两项高难度工作的。

然而,就在去年 9 月,当紧张不安的 Google 管理层讨论该如何向公众披露公司与五角大楼签署的第一份重要人工智能合同时,李飞飞强烈建议避免使用 A.I. 这两个强有力的字母。

《纽约时报》获得了李飞飞写给同事们的一封电子邮件,她在其中写道:“无论如何都要避免提及或暗示人工智能”,“AI 武器就算不是最敏感的 AI 话题,也很可能是其中之一。对想尽一切办法攻击 Google 的媒体来说,这会给它们一次大好的机会。”

李飞飞担心这份军事合同可能会给 Google 带来不良影响,事实证明,这是她的先见之明。根据《纽约时报》查看过的文件、电子邮件以及与十几位现任和前任 Google 员工的访谈表明,Google 与国防部的关系引发了一场事关生死存亡的危机,而这一切源于前者赢得了 Maven 计划合约中的一部分份额——该计划使用人工智能来解读视频图像,旨在提高无人机打击的精准度。

它分裂了 Google 的员工,引发了激烈的员工会议和内部交流,并导致一些员工辞职。这场争端让包括李飞飞在内的一些 Google 高管深感痛惜,因为从道德上坚决反对这份合同的科学家与垂涎合同的销售人员之间往往存在着鸿沟,而高管们在试图弥合这一鸿沟。

支撑着 Google 惊人增长的广告模式激起了人们的批评,称它侵犯了网络用户的隐私,还支持可疑的网站,其中就包括兜售虚假新闻的那些。目前,Google 通过云计算服务实现未来增长的路径,已使得该公司因为对待武器的不同立场而分化成了不同的阵营。继续承接大额国防合同可能会赶走头脑杰出的人工智能专家,而拒绝这样的工作则会让它失去潜在的大额业务。

支持者和反对者都认为,针对 Maven 计划的内部争论实际上打开了更大规模的国防合同的大门。这场争论也促使约 4000 名员工签署了一份联名请愿书,要求公司“发布明确的政策,声明 Google 及其承包商都永远不会开发战争技术”。

DeepMind 是一家位于伦敦的人工智能先驱公司,于 2014 年被 Google 收购。DeepMind 的高管们表示,他们完全反对军事和监控业务,实验室的员工已经对合同提出了抗议。两家公司之间的收购协议表明,DeepMind 技术永远不会用于军事或监控目的。

已有约 12 名 Google 员工因为这份合同(Gizmodo 最先报道了此事)辞职。一位离任的工程师曾请求以克拉拉·伊默瓦尔(Clara Immerwahr)的名字重新命名一间会议室,克拉拉是一位德国化学家,她于 1915 年在抗议将科学用于战争后自杀身亡。《纽约时报》拿到的公司电子邮件称,Google 的纽约办公室出现了“做正确的事情”(Do the Right Thing)的贴纸。

反对五角大楼合同的员工们分享了那些电子邮件和其他内部文件,它们显示,至少有一些 Google 高管预料到了这些异议和负面报道。但其他员工也指出,微软和亚马逊等 Google 的竞争对手正热衷于追逐获利丰厚的五角大楼业务。他们得出结论说,这些项目对公司的发展至关重要,没有什么可耻的。

还有许多科技公司也在寻求军事业务,而且没有让所有员工都卷入其中。不过,Google 的根本理念和自我形象与别家不同。

“我们有‘不作恶’(don’t be evil)的信条,要为我们的用户、客户和每一个人,做我们所知的最好的事情,”2004 年,拉里·佩奇(Larry Page)对彼得·詹宁斯(Peter Jennings,美国广播公司[ABC]著名主播——编注)说了这么一番话。当年,佩奇及 Google 联合创始人谢尔盖·布林(Sergey Brin)被 ABC 新闻评为“年度人物”。

Google 内部这场冲突的导火索在于,Maven 的工作可能用于致命的无人机瞄准系统。之所以眼下这场讨论变得尤为紧迫,是因为专家们预计人工智能将在战争中发挥越来越核心的作用, 而人工智能是 Google 的强项之一。

去年 8 月,美国国防部长吉姆·马蒂斯(Jim Mattis)先是顺道拜访亚马逊,随后不久访问了 Google,呼吁与科技公司进行更密切的合作。他对 Google 的访问得到了媒体的广泛报道。

“我看到西海岸这儿的私人公司取得了许多最重大的进展,”他说。

李飞飞的意见是公司内部邮件交流的一部分,这次邮件交流是由 Google 国防和智能销售主管(head of defense and intelligence sales)斯科特·弗罗曼(Scott Frohman)发起的。在“通讯/公关请求—紧急”(Communications/PR Request — URGENT)的标题下,弗罗曼提到 Maven 合同的报酬即将到位,并请大家就如何向公众介绍——这一“亟待解决的问题”——出谋划策。

许多同事加入了讨论,但通常他们都会听从李飞飞的意见。李飞飞生于中国,跟父母移民到新泽西州时,她只有 16 岁,不会讲英语。如今的她已攀登到了科技世界的顶峰。

李飞飞在电子邮件中表示,最终决定将由她的上司、Google Cloud 首席执行官黛安·格林(Diane Greene)作出。不过李飞飞认为,公司应该将 Maven 合同份额作为“GCP(Google 云平台)的重大胜利”来宣传。

她还建议,在介绍该项目时要“极其谨慎”,并提及她一直公开谈论的“人本主义的人工智能”,她准备在 3 月份的《纽约时报》专栏中讨论这个话题。

她在那封电子邮件中写道:“如果媒体开始得知 Google 正在秘密制造人工智能武器,或研发帮助国防工业制造武器的人工智能技术,我不知道将会发生什么。”

被问到去年九月份的邮件时,李飞飞发表声明称:“我相信,人本主义的人工智能会以积极、善意的方式给人们带来好处。参与任何我认为是在把人工智能变成武器的项目,都是非常违背我个人原则的。”

事实证明,Google 并没有向公众公布 Maven。当持有反对意见的员工开始在 Google 强大的内部通信平台上抗议时,公众才注意到 Google 的“承包商”工作。

Google 向员工承诺,公司会制定一套原则,用以指导其在承包国防和情报领域工作时,在道德雷区中做出抉择。Google 周二告诉《纽约时报》,正在制定的全新人工智能原则排除了将人工智能用作武器的可能性。但是,目前尚不明确这点要如何实现。

公司员工称,在上周四一场全公司大会上,首席执行官桑达尔·皮查伊(Sundar Pichai)说,Google 希望提出“能够经受时间考验”的指导方针。员工表示,他们希望接下来几个星期,这些原则能在 Google 内部予以公布。

在 Google 和军方引起的两极化争议中,人们可能忽略了一些细微的差别。如果能够对无人机影响进行更好的分析,操作人员发现、辨别恐怖分子的能力就能得到提高,进而可以达到减少平民伤亡的目的。就算 Google 退出,美国国防部也几乎不可能放弃对人工智能的开发研究。而且军事专家表示,中国和其他发达国家已经在军用人工智能方面进行了大量投资。

然而,有些技术高超的技术人员之所以选择 Google,就是因为 Google 乐于接受仁慈、无私的目标。因此,他们对雇主最终可能和更有效的杀人方式有所牵连感到十分震惊。

Google 的公司留言板和内部社交平台反映了这家公司与众不同的文化。这些平台鼓励员工大胆评价所有事情,从 Google 的餐厅食物到公司的多样性措施,所有一切都可以畅所欲言。但是老员工说,即使在这个言论自由的工作场所,Marven 计划给 Google 带来的混乱也比近期他们印象里其他事件更严重。

交易的消息在内部走漏风声后,格林在每周全公司的周五大会上发表了讲话。据两位会议知情人士表示,格林解释称,这个系统不是为剥夺人性命设计的,而且它只是场比较小的交易,“只”值 900 万美元。

这并没有平息人们的怒火。据邀请函显示,Google 决定在 4 月 11 日举行一次讨论,呈现“多方观点”,参与者有格林、Google 人工智能研究员梅雷迪斯·惠特克(Meredith Whittaker)和 Google 副总裁温特·瑟夫(Vint Cerf)。其中,惠特克是此次反 Maven 运动的牵头人,瑟夫则因其在国防部的开拓性技术工作而被认为是互联网之父之一。

由于值得探讨的点太多,他们在一天里针对这一话题展开了三次辩论,全球各地不同地区的 Google 员工通过视频观看了这些辩论。

据看了辩论的员工表示,格林坚持认为,Maven 计划并未将人工智能用于攻击性目的。惠特克则认为,很难对这项技术的使用方式作出明确的规定。

上周四,Google 联合创始人布林在全公司大会上回答了一个有关 Google 在 Maven 计划中所做工作的问题。据两位 Google 员工表示,布林说他理解这一争议,并且和佩奇、皮查伊都进行过大量的探讨。然而他说,他认为如果全球各地的军方组织都能和 Google 这样的国际化组织亲密合作,而不是只和民族主义的国防承包商打交道,那会更有利于世界和平。

Google 及其母公司 Alphabet 雇佣了全球许多顶尖人工智能研究人员。一些研究人员在加州山景城一处名叫 Google Brain 的人工智能实验室工作,其他研究人员则分布在不同的小组,包括 Alphabet 董事会成员格林监管的云计算业务。

这些研究人员中的许多人都是最近刚从学界出来,有些人还保留着教授职位。英国人杰夫·辛顿(Geoff Hinton)就是其中之一,他帮助管理多伦多的 Google Brain 实验室,并且曾公开表示不愿为美国政府工作。1980 年代末,辛顿之所以离开美国前往加拿大,部分原因就在于他不愿接受国防部的拨款。

杰夫·迪恩(Jeff Dean)是在 Google 工作时间最长、最受敬重的员工,目前负责监管公司所有人工智能工作。他在五月份举行的一次开发者大会上表示,他签署了一封信,反对用所谓的机器学习来研发自动武器——它们无需人类扣动扳机,即可辨别目标并开火。

位于伦敦的人工智能实验室 DeepMind 被普遍认为是全球最重要的人工智能人才聚集地。如今,虽然它是一家独立的 Alphabet 子公司,但它和 Google 之间的界限很模糊。

DeepMind 的创始人一直在警告人们人工智能系统的危险。据一位知情人士透露,该实验室至少有一位创始人——穆斯塔法·苏莱曼(Mustafa Suleyman)和包括皮查依在内的 Google 领导层一起进行了有关 Maven 计划的政策讨论。

显然,Google 静悄悄介入国防工作、不引起公众关注的可能性已经破灭了。李飞飞希望将人工智能排除在辩论之外的想法也是不现实的。

Google 华盛顿办公室的高管艾琳·布莱克(Aileen Black)在去年 9 月的交流中提醒李飞飞:“我们可以引导关于 Google 云的讨论,但拿到国防部项目是人工智能领域的一项荣誉,我认为在我们想明白(怎么做)之前,需要先做起来。”

  • “倍速”追剧成时尚 是剧情太慢还是我们太急
    看到一则文化报道说,“二倍速”追剧,已成时下一些人观剧的一种文化时尚。一位网友在微博上发出感叹,“当代年轻人时间有多紧张?看个剧都要开二倍速。”
  • 苹果发布新品,商人从来不傻
    当苹果已不再是那个苹果,苹果手机未来的路,还能走多远?
  • 滴滴“一键报警”不应形同虚设
    基于社会责任立场,滴滴平台应将乘客安全放在首位,继续简化一键报警流程,积极与警方保持信息数据的沟通,不要为了企业私利,而罔顾乘客人身安全。
  • 南方日报:对破坏景区行为要严厉说“不”
    近日,李某等4人踩踏甘肃省张掖市七彩丹霞景区彩色山体,并在社交媒体上发布相关视频,引发社会关注,甘肃省张掖市检察机关介入该事件。
  • 莫让教师节礼品毁了“尊师重道”
    每年教师节来临之际,许多家长都会为要不要给老师送礼、送什么礼纠结不已。
  • 辛识平:“娘炮”之风当休矣
    “油头粉面A4腰,矫揉造作兰花指”,这句顺口溜描述的正是时下某些所谓“小鲜肉”偶像令人错愕的形象与做派。
  • 规范民宿应多一些“网约”思维
    如今,民宿已经不是传统的出租房屋,而是借鉴共享经济、借助网约平台进行发展,制定相关法律和制度规范,就需要多一些“网约”思维,多在“网约民宿”方面下工夫。
  • 牛肉面吃出头发获赔1000元 维权没你想的那么难
    只要广大消费者都能增强自身法律意识,了解相关法律知识和技巧,就一定能“完胜”那些肆意侵害消费者权益的商家,为自己争得应有的补偿。
  • 名校与民校“隔墙而学”有何不可
    近日,苏州一所百年名校拟在校内设“隔离门”安置“菜小”生的新闻,引发了舆论热议。据澎湃新闻报道,从今年9月1日开始,苏州以外来务工人员子女为主的民办小学(俗称“菜小”)——立新小学因校舍被腾退,800多名学生将被整体安排到附近的公办重点小学、百年名校勤惜小学念书。
  • 地名要让人记得住乡愁
    早上在“威尼斯”起床,中午到“维也纳”办事,晚上在“曼哈顿”吃饭逛街,不出城也能“周游世界”……
  • “货拉拉”的骚扰事件该如何收场?
    货拉拉APP官方微博8月27日消息称,对于8月5日杭州一女士通过货拉拉平台叫司机师傅搬运货物后,而遭遇此司机的言语骚扰,我们深感抱歉。
  • 恶性杀人案里赔偿能成为免死牌吗
    要想实现不把赔偿作为免死的理由,就必须寻求被告人赔偿之外的途径,对被害人亲属予以救济。
  • 像反家庭暴力一样 反网络暴力
    对于网络暴力,现在更多停留在口头谴责层面。事实证明,口头谴责无法遏制网络暴力高发频发的势头。
  • 滴滴全国下线,整改不能走过场
    8月26日下午,针对“8月24日浙江省温州市女孩乘坐滴滴顺风车途中被害”事件,交通运输部联合公安部以及北京市、天津市交通运输、公安部门,对滴滴公司开展联合约谈,责令其立即对顺风车业务进行全面整改。
  • “以房养老”要先过传统理念关
    近日,银保监会发布关于《扩大老年人住房反向抵押养老保险开展范围的通知》,从今年8月起,要把老年人住房反向抵押养老保险(即“以房养老”)推广至全国范围。
  • 治老赖有公示,治“高铁占座”的无赖呢?
    “我是无赖我怕谁”的思想之所以泛滥,固然与无赖的素质低有关,恐怕也与执法者的弱势、旁观者的冷漠有很大关系。
  • “直播”有规矩才能更蓬勃
    “直播”有规矩才能正直更蓬勃。坚守正直,才能打造更多正能量产品;更加蓬勃,才能打造事业精彩。
  • 宿舍没空调,大学后勤如何实现现代化
    近日,一段名为《命是天台给的!宿舍热成蒸笼,留校学生天台打地铺降温》的视频在网上热传。
  • 流动的时代,守望爱情的一丝不苟
    “茅屋一间做洞房,男耕女织度时光。秋去冬回阳春至,花开满树柳成行。”又是一年七夕时,唯美动人的牛郎织女神话赋予了七夕节独特的浪漫色彩。
  • 景区门票降价应该拿出诚意
    景区门票价格过高的话,游客预算有限,只能减少其他方面的消费,就会对其他旅游环节造成挤压,导致整个旅游产业链呈现畸形化发展,陷入“门票经济”的困境。
重庆华人会信息技术有限公司
华人会(深圳)互联网有限公司
华人会国际开发有限公司
备案号:粤ICP备16030660号-1
HRH (SHENZHEN) CO., LTD.   Copyright © 2015-2018 hrh.org   All Rights Reserved.
客户服务:service@hrh.org   商务合作:cobiz@hrh.org