注 册 | 会 员 登 录 | | APP下载

Google 与五角大楼的军事 AI 合作是怎么变成一场危机的?

李飞飞是新兴人工智能领域最耀眼的明星之一:既是斯坦福大学人工智能实验室的负责人,也是 Google Cloud——搜索巨头 Google 公司最有前景的项目之一——的人工智能首席科学家。没人知道她是如何同时胜任两项高难度工作的。

李飞飞是新兴人工智能领域最耀眼的明星之一:既是斯坦福大学人工智能实验室的负责人,也是 Google Cloud——搜索巨头 Google 公司最有前景的项目之一——的人工智能首席科学家。没人知道她是如何同时胜任两项高难度工作的。

然而,就在去年 9 月,当紧张不安的 Google 管理层讨论该如何向公众披露公司与五角大楼签署的第一份重要人工智能合同时,李飞飞强烈建议避免使用 A.I. 这两个强有力的字母。

《纽约时报》获得了李飞飞写给同事们的一封电子邮件,她在其中写道:“无论如何都要避免提及或暗示人工智能”,“AI 武器就算不是最敏感的 AI 话题,也很可能是其中之一。对想尽一切办法攻击 Google 的媒体来说,这会给它们一次大好的机会。”

李飞飞担心这份军事合同可能会给 Google 带来不良影响,事实证明,这是她的先见之明。根据《纽约时报》查看过的文件、电子邮件以及与十几位现任和前任 Google 员工的访谈表明,Google 与国防部的关系引发了一场事关生死存亡的危机,而这一切源于前者赢得了 Maven 计划合约中的一部分份额——该计划使用人工智能来解读视频图像,旨在提高无人机打击的精准度。

它分裂了 Google 的员工,引发了激烈的员工会议和内部交流,并导致一些员工辞职。这场争端让包括李飞飞在内的一些 Google 高管深感痛惜,因为从道德上坚决反对这份合同的科学家与垂涎合同的销售人员之间往往存在着鸿沟,而高管们在试图弥合这一鸿沟。

支撑着 Google 惊人增长的广告模式激起了人们的批评,称它侵犯了网络用户的隐私,还支持可疑的网站,其中就包括兜售虚假新闻的那些。目前,Google 通过云计算服务实现未来增长的路径,已使得该公司因为对待武器的不同立场而分化成了不同的阵营。继续承接大额国防合同可能会赶走头脑杰出的人工智能专家,而拒绝这样的工作则会让它失去潜在的大额业务。

支持者和反对者都认为,针对 Maven 计划的内部争论实际上打开了更大规模的国防合同的大门。这场争论也促使约 4000 名员工签署了一份联名请愿书,要求公司“发布明确的政策,声明 Google 及其承包商都永远不会开发战争技术”。

DeepMind 是一家位于伦敦的人工智能先驱公司,于 2014 年被 Google 收购。DeepMind 的高管们表示,他们完全反对军事和监控业务,实验室的员工已经对合同提出了抗议。两家公司之间的收购协议表明,DeepMind 技术永远不会用于军事或监控目的。

已有约 12 名 Google 员工因为这份合同(Gizmodo 最先报道了此事)辞职。一位离任的工程师曾请求以克拉拉·伊默瓦尔(Clara Immerwahr)的名字重新命名一间会议室,克拉拉是一位德国化学家,她于 1915 年在抗议将科学用于战争后自杀身亡。《纽约时报》拿到的公司电子邮件称,Google 的纽约办公室出现了“做正确的事情”(Do the Right Thing)的贴纸。

反对五角大楼合同的员工们分享了那些电子邮件和其他内部文件,它们显示,至少有一些 Google 高管预料到了这些异议和负面报道。但其他员工也指出,微软和亚马逊等 Google 的竞争对手正热衷于追逐获利丰厚的五角大楼业务。他们得出结论说,这些项目对公司的发展至关重要,没有什么可耻的。

还有许多科技公司也在寻求军事业务,而且没有让所有员工都卷入其中。不过,Google 的根本理念和自我形象与别家不同。

“我们有‘不作恶’(don’t be evil)的信条,要为我们的用户、客户和每一个人,做我们所知的最好的事情,”2004 年,拉里·佩奇(Larry Page)对彼得·詹宁斯(Peter Jennings,美国广播公司[ABC]著名主播——编注)说了这么一番话。当年,佩奇及 Google 联合创始人谢尔盖·布林(Sergey Brin)被 ABC 新闻评为“年度人物”。

Google 内部这场冲突的导火索在于,Maven 的工作可能用于致命的无人机瞄准系统。之所以眼下这场讨论变得尤为紧迫,是因为专家们预计人工智能将在战争中发挥越来越核心的作用, 而人工智能是 Google 的强项之一。

去年 8 月,美国国防部长吉姆·马蒂斯(Jim Mattis)先是顺道拜访亚马逊,随后不久访问了 Google,呼吁与科技公司进行更密切的合作。他对 Google 的访问得到了媒体的广泛报道。

“我看到西海岸这儿的私人公司取得了许多最重大的进展,”他说。

李飞飞的意见是公司内部邮件交流的一部分,这次邮件交流是由 Google 国防和智能销售主管(head of defense and intelligence sales)斯科特·弗罗曼(Scott Frohman)发起的。在“通讯/公关请求—紧急”(Communications/PR Request — URGENT)的标题下,弗罗曼提到 Maven 合同的报酬即将到位,并请大家就如何向公众介绍——这一“亟待解决的问题”——出谋划策。

许多同事加入了讨论,但通常他们都会听从李飞飞的意见。李飞飞生于中国,跟父母移民到新泽西州时,她只有 16 岁,不会讲英语。如今的她已攀登到了科技世界的顶峰。

李飞飞在电子邮件中表示,最终决定将由她的上司、Google Cloud 首席执行官黛安·格林(Diane Greene)作出。不过李飞飞认为,公司应该将 Maven 合同份额作为“GCP(Google 云平台)的重大胜利”来宣传。

她还建议,在介绍该项目时要“极其谨慎”,并提及她一直公开谈论的“人本主义的人工智能”,她准备在 3 月份的《纽约时报》专栏中讨论这个话题。

她在那封电子邮件中写道:“如果媒体开始得知 Google 正在秘密制造人工智能武器,或研发帮助国防工业制造武器的人工智能技术,我不知道将会发生什么。”

被问到去年九月份的邮件时,李飞飞发表声明称:“我相信,人本主义的人工智能会以积极、善意的方式给人们带来好处。参与任何我认为是在把人工智能变成武器的项目,都是非常违背我个人原则的。”

事实证明,Google 并没有向公众公布 Maven。当持有反对意见的员工开始在 Google 强大的内部通信平台上抗议时,公众才注意到 Google 的“承包商”工作。

Google 向员工承诺,公司会制定一套原则,用以指导其在承包国防和情报领域工作时,在道德雷区中做出抉择。Google 周二告诉《纽约时报》,正在制定的全新人工智能原则排除了将人工智能用作武器的可能性。但是,目前尚不明确这点要如何实现。

公司员工称,在上周四一场全公司大会上,首席执行官桑达尔·皮查伊(Sundar Pichai)说,Google 希望提出“能够经受时间考验”的指导方针。员工表示,他们希望接下来几个星期,这些原则能在 Google 内部予以公布。

在 Google 和军方引起的两极化争议中,人们可能忽略了一些细微的差别。如果能够对无人机影响进行更好的分析,操作人员发现、辨别恐怖分子的能力就能得到提高,进而可以达到减少平民伤亡的目的。就算 Google 退出,美国国防部也几乎不可能放弃对人工智能的开发研究。而且军事专家表示,中国和其他发达国家已经在军用人工智能方面进行了大量投资。

然而,有些技术高超的技术人员之所以选择 Google,就是因为 Google 乐于接受仁慈、无私的目标。因此,他们对雇主最终可能和更有效的杀人方式有所牵连感到十分震惊。

Google 的公司留言板和内部社交平台反映了这家公司与众不同的文化。这些平台鼓励员工大胆评价所有事情,从 Google 的餐厅食物到公司的多样性措施,所有一切都可以畅所欲言。但是老员工说,即使在这个言论自由的工作场所,Marven 计划给 Google 带来的混乱也比近期他们印象里其他事件更严重。

交易的消息在内部走漏风声后,格林在每周全公司的周五大会上发表了讲话。据两位会议知情人士表示,格林解释称,这个系统不是为剥夺人性命设计的,而且它只是场比较小的交易,“只”值 900 万美元。

这并没有平息人们的怒火。据邀请函显示,Google 决定在 4 月 11 日举行一次讨论,呈现“多方观点”,参与者有格林、Google 人工智能研究员梅雷迪斯·惠特克(Meredith Whittaker)和 Google 副总裁温特·瑟夫(Vint Cerf)。其中,惠特克是此次反 Maven 运动的牵头人,瑟夫则因其在国防部的开拓性技术工作而被认为是互联网之父之一。

由于值得探讨的点太多,他们在一天里针对这一话题展开了三次辩论,全球各地不同地区的 Google 员工通过视频观看了这些辩论。

据看了辩论的员工表示,格林坚持认为,Maven 计划并未将人工智能用于攻击性目的。惠特克则认为,很难对这项技术的使用方式作出明确的规定。

上周四,Google 联合创始人布林在全公司大会上回答了一个有关 Google 在 Maven 计划中所做工作的问题。据两位 Google 员工表示,布林说他理解这一争议,并且和佩奇、皮查伊都进行过大量的探讨。然而他说,他认为如果全球各地的军方组织都能和 Google 这样的国际化组织亲密合作,而不是只和民族主义的国防承包商打交道,那会更有利于世界和平。

Google 及其母公司 Alphabet 雇佣了全球许多顶尖人工智能研究人员。一些研究人员在加州山景城一处名叫 Google Brain 的人工智能实验室工作,其他研究人员则分布在不同的小组,包括 Alphabet 董事会成员格林监管的云计算业务。

这些研究人员中的许多人都是最近刚从学界出来,有些人还保留着教授职位。英国人杰夫·辛顿(Geoff Hinton)就是其中之一,他帮助管理多伦多的 Google Brain 实验室,并且曾公开表示不愿为美国政府工作。1980 年代末,辛顿之所以离开美国前往加拿大,部分原因就在于他不愿接受国防部的拨款。

杰夫·迪恩(Jeff Dean)是在 Google 工作时间最长、最受敬重的员工,目前负责监管公司所有人工智能工作。他在五月份举行的一次开发者大会上表示,他签署了一封信,反对用所谓的机器学习来研发自动武器——它们无需人类扣动扳机,即可辨别目标并开火。

位于伦敦的人工智能实验室 DeepMind 被普遍认为是全球最重要的人工智能人才聚集地。如今,虽然它是一家独立的 Alphabet 子公司,但它和 Google 之间的界限很模糊。

DeepMind 的创始人一直在警告人们人工智能系统的危险。据一位知情人士透露,该实验室至少有一位创始人——穆斯塔法·苏莱曼(Mustafa Suleyman)和包括皮查依在内的 Google 领导层一起进行了有关 Maven 计划的政策讨论。

显然,Google 静悄悄介入国防工作、不引起公众关注的可能性已经破灭了。李飞飞希望将人工智能排除在辩论之外的想法也是不现实的。

Google 华盛顿办公室的高管艾琳·布莱克(Aileen Black)在去年 9 月的交流中提醒李飞飞:“我们可以引导关于 Google 云的讨论,但拿到国防部项目是人工智能领域的一项荣誉,我认为在我们想明白(怎么做)之前,需要先做起来。”

  • “拉链式”交替通行是治堵微创新
    据新京报报道,北京市首个“拉链式”交替通行入口正式在石景山试点,区域为阜石路杨庄东桥以东300米西向东入口处,排队进入主路的车辆需按照左侧先行的原则交替行驶。
  • 学历认证疑似“奇葩证明”,改革势在必行
    今年大学生毕业季到了。不过,大学生拿到毕业证,一般还需花钱到认证机构做认证,取得认证报告后,手里的毕业证才能得到各方认可。该认证机构叫中国高等教育学生信息网,属企业性质网站。人们笑称,这是“证明我妈是我妈”笑话在教育界的翻版。
  • 审视“劳动碰瓷” 别把法律问题道德化
    一个和谐有序的用工环境,对用人单位和劳动者都应当是有利的,真正的“劳动碰瓷”,也是对劳动者的伤害。
  • 举报垃圾短信者被“拉黑”不是一个小问题
    打压投诉用户、控制投诉率;私自对用户设立黑名单侵犯用户权益;涉嫌泄露投诉者隐私——这种行为已然损害了用户权益和企业形象,必须引起电信主管部门和三大运营商高度重视,深入调查、严肃处理。
  • “诗和远方”让“夕阳”更红
    2015年底开始,上海社科院社会学所展开了一项关于老年人心理需求和观念的调查,调查的主要群体是生活在上海,有一定经济基础和较高受教育程度的老年人。在与51位老人进行访谈后,课题组发现,没有一个人表示依靠或指望子女养老。
  • 社评:金特会成功了,愿美朝良性互动起来
    声明的4点内容包括朝鲜方面再次确认将致力于朝鲜半岛的“完全无核化”,和美朝将合作在朝鲜半岛建立长久稳定的和平机制。美朝还表示要建立一个“全新的朝美关系”。
  • “职场碰瓷”倒逼企业规范管理
    在江苏扬州,窦某因为“传奇”的经历获得了一个称号——“碰瓷式职业维权人”。
  • 人民网评:高考,为青春点赞,为梦想加油
    今年高考迎来第一届“00后”高中毕业生,有网友发出感慨,一代又一代青春、一个又一个梦想,都在经历过高考的洗礼之后,飞向远方。高考,不仅仅是一场影响个人发展的考试,也是一项事关国家人才培养和未来发展方向的基础性制度。
  • 抗癌药降价引进 别让生命等不及
    这些药品正式入市依然未有明确时间表。对此,有关方面应当看到癌症患者与生命赛跑的迫切需要,快马加鞭,特事特办,争取让政策利好尽快造福广大患者,挽救更多人的宝贵生命。
  • 劳木:非洲发展了,部族酋长也现代
    提起非洲的部族酋长,人们往往会联想到电影里经常出现的形象:有的体格魁梧,宽袍大袖,威风凛凛;有的头插羽翎,肩披豹皮,剽悍粗犷。在博茨瓦纳,我们会见的一位酋长却完全不是这样。
  • 应对娱乐圈的偷漏税现象进行全面调查
    崔永元曝范冰冰4天6000万天价片酬,并起底疑似大小合同、阴阳合同等偷漏税等潜规则,日前有了最新进展。由于范冰冰工作室在无锡,无锡市滨湖区地税局目前已经介入调查取证,相关情况有待后续由税务机关权威发布。
  • 别让微信拉票泛滥成灾
    信马由缰的网络投票引发刷票拉票行为,非但无法让投票结果反映匹配被投对象的真实水平,相反只会致使评选公信力一再受挫毁伤,评选声誉自然无从谈起。
  • 《卖米》中的农民悲剧
    《卖米》一文突然蹿红,我留意了一下,转发者基本是出身农民家庭。
  • 如何化解家长陪做作业的“心头病”?
    家长陪做作业成为社会问题,主要原因就在于学校默许放任教师把自己的分内工作转嫁于家长。
  • 杨建国:数字经济的“贵州现象”
    这几年,借着考察的机会,多次到贵州。每次贵州都会用日新月异的变化,“刷新”我的好感程度。这些考察的主题主要有两个:一个是:精准扶贫,一个是大数据产业。
  • 没有哪个标签能成为责任感与素养的遮羞布
    昨日,有一件小事成了很多人关注的焦点。据齐鲁晚报等媒体报道,不久前,杭州的黄女士开着宝马车,被一辆三轮车撞了。这个“肇事者”只有15岁,他一边骑着三轮电动车,一边玩手机。即便黄女士一直在摁喇叭,他仍然没有反应过来,直接撞向了黄女士的车。
  • 大学生学会写作,就是学会更好地与世界对话
    从今年9月开始,无论是学电子工程,还是环境科学,所有清华大学本科新生的课程表上都将增添一门共同的必修课——“写作与沟通”。
  • 宁南山:中国制造的信心来自哪里
    在中兴事件之后,国内不少人开始质疑中国制造的水平,其中甚至不乏一些曾经的力挺者。那么,我们究竟该如何客观看待中国制造目前的世界地位?
  • 像对待生命一样对待生态环境
    “像对待生命一样对待生态环境”,弦外之音很直白:生态环境既很脆弱,也需要最大力度的保护。
  • 辱骂机场工作人员,女教授岂止斯文扫地
    近日,一段“兰州某高校老师飞机误点,辱骂机场工作人员”的视频在网上热传。5月15日,兰州机场公安工作人员就网传视频回应称,该自称教授的女子系误机后与女地勤起口角,当天,双方已互相道歉并达成谅解。
重庆华人会信息技术有限公司
华人会(深圳)互联网有限公司
华人会国际开发有限公司
备案号:粤ICP备16030660号-1
HRH (SHENZHEN) CO., LTD.   Copyright © 2015-2018 hrh.org   All Rights Reserved.
客户服务:service@hrh.org   商务合作:cobiz@hrh.org