| APP下载

监控摄像头进教室:技术很新 问题很老

我高中三年最惊悚的回忆,大概是教室后门的玻璃窗上,班主任不时浮现的黑色眼睛。这双眼睛如果一直在,会有很多人坐立不安。

我高中三年最惊悚的回忆,大概是教室后门的玻璃窗上,班主任不时浮现的黑色眼睛。这双眼睛如果一直在,会有很多人坐立不安。

现在:这双“眼睛”又来了。比肉眼还要灵敏的摄像头被布置在教室中央,监控所有学生。人工智能则赋予了它更高级的判断能力:他今天玩手机3次,打瞌睡2次,举手0次,学习不认真;她这堂课露出8次疑惑和3次厌恶的表情,微笑却只有1次,可能不太适应这位教师;教师则可以不动声色地查阅所有信息。

最近试水这一领域的,是人工智能行业的明星企业旷视科技。一个趴在课桌上微笑的女孩,在这家企业的产品演示图里,被标注了“睡觉、阅读、举手、玩手机”等行为的次数。这引起了热议,有人说,管理学生搞得像治理监狱。

被骂惨的企业可能感到很冤。它算不上先行者,一家教育企业早就宣称,自家的技术能识别学生的专注度和情绪;百度公司则在2018年表示,监控学生的头部动作和表情,就能辨别对方是否专心听讲,并“贴心”地推出了定制服务。这些新技术应用的“正面案例”大多淹没在资讯的海洋,为数不多“翻车”挨骂的是杭州的一所中学。去年,该校领导在电视镜头前热情演示了类似的系统。轻点几下,几个“不专注学生”的名字出现在大屏幕上。

有人怀疑这越界了。大多质疑声投给了人工智能这项新技术。刚起步、未成型的东西代表未知,而未知带来恐惧。最糟糕的猜想在科幻小说里被描述过——人类的举手投足被人工智能分析、控制,失去自由。

我想起高中班主任的眼睛和他手里的教鞭,以及一些旧闻:人工智能还没有流行时,学校风靡安装摄像头。有班主任使用班费装了一个,每天监控班级;也有学校让家长交100元,就可以随时查看孩子的一举一动。

好像也没什么不同,所以,我害怕的是人工智能,还是那些充满控制欲、想把学生框进他们设计好的模子里的人?或许人工智能本身并没有引发“新问题”,它只是一个工具,交到了那些本就让人反感的人手中。

一个流行的说法是,新技术一定会带来新问题,比如人工智能会带来隐私争议。但同样的人脸识别,被用于安防、寻找走失幼童、监护老人或重症病人,很少会陷入争议。这些事人命关天,它们符合人们牢固的共识。我们每天使用的App,如今也都要拿走信息,分析和揣测我们的喜好。大多数人会同意那则协议,选择用数据换取方便的生活,这是我们自己的决定。

但那个植入教室的摄像头引发了轩然大波。孩子们很少能有与教师乃至学校平等的话语权,他们没得选择;再好的学生也会走神、会犯困,被一直注意只会带来紧张甚至压抑,没人喜欢被控制,长辈却总想要一直听话的孩子;为了在监控与分析下取得“优良表现”,孩子们会不会被迫表演,就像我们经历过的那些必须朗声发言与热烈鼓掌的公开课,这样的学习有乐趣吗?直至像一位网友所说,这项技术倘若被当成辅助工具,识别那些长期心情不佳、生活不顺的学生,增添呵护,可能便具有温情。可目前,厂家的卖点和买方的诉求,大都倾向于迫使学生时刻专心听讲,甚至直接奖惩。

这般理下来,发生在教室里的这则公案,哪有“新问题”?都是“老问题”!技术发展带来了诸多前所未有的伦理问题:能否编辑基因、克隆人类;有朝一日高度发达的人工智能是否该具备“人权”。但至少这次,问题没那么“浪漫”,就是后窗的眼睛变成了更高级的人工智能。

9月5日,教育部科学技术司司长雷朝滋在受访时表露,对于类似人工智能,“要加以限制和管理,希望学校非常慎重。”“学生个人信息,能不采集就不采。”更大的背景是,今年7月,中国提出组建国家科技伦理委员会,将对新技术带来的伦理和法律问题作出规范。

可以想象,这是一条必经之路。亟待完善的规则,既会涉及人类从未面临的新场景,也要解决诸如这些监控、分析孩子们的摄像头般,我们在过去尚未达成共识的问题。这也告诉我们,技术在未来的样貌并不确定,不同人眼中的它们可能截然不同,需要彼此不断探讨甚至争论。

教室摄像头引发的风波里,有网友激烈地反对。他说,我这么激动,是不想自己的孩子成为被监控的对象。有人想象了一个略显惊悚的场景:人工智能覆盖学校后,学生之后的下一个监控对象是谁?教师。再然后,或许是职场里的所有人——不够“专注”都要扣钱。

所幸,至少在今天,人工智能基本还是人畜无害、让人觉得新奇、下意识喜爱的“孩子”。至于几年、几十年后,它的样子,不由它自己,而由今天的我们决定。

  • 地铁“女士优先车厢”:歧视远大于保护
    2017年深圳地铁率先设立女士优先车厢,初衷是在地铁公共交通领域倡导进一步关爱女性和尊重女性的风气,进一步提高深圳的文明程度。近日,深圳有多名市民反映女士优先车厢内男性乘客很多,并称地铁女士优先车厢已形同虚设。
  • 人民网评:网络安全,既是防线又是底线
    电信诈骗有哪些套路?智能门锁为何能被轻松刷开?手机远程窃听如何做到的?这些都是人们身边的安全隐患,也是网络时代衍生出的安全问题。
  • 牛肉面价格腰斩 机场餐饮变的不只是价格
    机场通过多元化的服务、商品供应,定义一种新的消费场景,既能最大化满足不同人群的消费体验需求,也可激活价格竞争机制,大大抑制“天价”的生存土壤。
  • 让教师成为让人羡慕的职业
    每年秋天,都是老师们一个学年辛勤耕耘的开始,也是弘扬尊师重教美德的最好时点。
  • 评论:降准不是楼市“盛宴” 楼市调控将继续从严
    近4年来首次“普降+定向”的降准,无疑是逆周期调节力度加大的最佳注脚。
  • 大学生之“大”,不在于大手大脚
    这个量力,不仅是量父母口袋之力,还要量自己未来创收之力。
  • 人脸识别进课堂,有必要吗?
    前几天,一款AI换头术的手机APP,引发公众对于隐私权的集体焦虑,同理,大学课堂滥用面部识别技术也存在隐私被滥用的问题。
  • 答好“开学经济”这道入学试题
    笔记本电脑5000元,手机2000元,衣物2000元,行李箱500元,预备生活费1万元……孩子今年考上大学的湖北籍家长肖先生的购物单上有一长串数字。
  • 是该对“咸猪手”亮出刑法之剑了
    上海检察机关通报,8月26日,上海市铁路运输检察院以涉嫌强制猥亵罪,对犯罪嫌疑人王某某批准逮捕,该案系上海市首例“咸猪手”入刑案件。
  • 飞机餐严重缩水,机票价格应下调
    近日,多位经常乘坐飞机出行的乘客向记者反映,进入8月以来,他们在乘坐国内航班时明显感觉到,无论是经济舱还是公务舱,航空公司提供的餐食质量和服务内容都严重缩水,“大清早7点半的飞机,就发几包小零食对付”“商务舱现在吃的,连塞牙缝都不够”。
  • 人民日报人民时评:用阅读标注城市文化地图
    实体书店,正在成为城市文化的毛细血管,调节着我们的文化呼吸,营造着一个城市的文化气质。
  • 半月谈评论:公交“路怒”,公共安全不能承受之重
     汽车社会里,“路怒”一族正成为都市四处“潜伏”的马路杀手,危及公共安全。
  • 在拼搏奋斗中创造美好生活
    新中国的70年,是无数普通人命运被改变、权利得保障、生活更幸福的70年。回望过去,正是中国共产党不忘初心、牢记使命,攻坚民生“小事”、办好民心“大事”,给人民生活带来翻天覆地的变化,让人民获得感、幸福感、安全感更加充实、更有保障、更可持续。
  • 社评:香港首现“暴力退潮”,挑战仍很严峻
    香港反对派星期天在维多利亚公园举行集会,组织者民阵声称参加者为170万,但警方表示最高峰人数为12.8万。这个规模是近期最大的,但比之前两次的最大示威规模小了一大块。
  • APP窥探隐私行为需要各方“较真儿”
    8月13日,《2019年上半年我国互联网网络安全态势》发布,报告指出,每款APP应用平均收集20项个人信息,大量APP存在探测其他APP或读写用户设备文件等异常行为,这再度引发公众对移动APP违法违规收集使用个人信息问题的热议。
  • 人民财评:“对康美药业罚酒三杯”系误读
    公司罚款60万元,实际控制人及主管罚款10至90万元不等并终身市场禁入,这是此前证监会对康美药业及相关当事人的处罚。相比康美药业887亿元货币资金造假的行为,有人用“罚酒三杯”来形容其受到的处罚。
  • 体罚与惩戒的界限唯良知可究
    近日,“拦路打老师案”宣判,殴打老师的常仁尧犯寻衅滋事罪,判处有期徒刑一年半。常仁尧坚决要上诉,其家属则表示将追究老师责任,举报其20年前对常仁尧的体罚。
  • 台风天外卖平台应停止派单
    8月10日21时许,上海市第六人民医院抢救室收治了一名触电的外卖送餐员。
  • 人民网评:总书记的回信纸短情长,见证为民大爱
    纸短情长,见字如面。从脱贫攻坚,到志愿服务;从大学校园,到民营企业;从祖国边疆,到创新一线……党的十八大以来,习近平总书记多次给基层干部群众回信,饱含深情、字字暖心、催人奋进,体现着心心相印的人民情怀,蕴含着对治国理政的深刻思考,表达着对奋进新时代的殷切希望。
  • 人民快评:止暴制乱,媒体的“机位”不能跑偏
    偏袒一方拉偏架的,一定不是好仲裁;向着一方吹黑哨的,一定不是好球证;抛开事实真相只会煽风点火的,一定不是好媒体。获取这些常识性的体验和判断,不需要高深学问、丰富阅历,稍微动脑想想即可。
重庆华人会信息技术有限公司
华人会(深圳)互联网有限公司
华人会国际开发有限公司
备案号:粤ICP备16030660号-1
HRH (SHENZHEN) CO., LTD.   Copyright © 2015-2018 hrhapp.org   All Rights Reserved.
客户服务:service@hrh.org   商务合作:cobiz@hrh.org

渝公网安备 50010902000754号