| APP下载

監控攝像頭進教室:技術很新 問題很老

我高中三年最驚悚的回憶,大概是教室後門的玻璃窗上,班主任不時浮現的黑色眼睛。這雙眼睛如果一直在,會有很多人坐立不安。

我高中三年最驚悚的回憶,大概是教室後門的玻璃窗上,班主任不時浮現的黑色眼睛。這雙眼睛如果一直在,會有很多人坐立不安。

現在:這雙“眼睛”又來了。比肉眼還要靈敏的攝像頭被佈置在教室中央,監控所有學生。人工智能則賦予了它更高級的判斷能力:他今天玩手機3次,打瞌睡2次,舉手0次,學習不認真;她這堂課露出8次疑惑和3次厭惡的表情,微笑卻只有1次,可能不太適應這位教師;教師則可以不動聲色地查閱所有信息。

最近試水這一領域的,是人工智能行業的明星企業曠視科技。一個趴在課桌上微笑的女孩,在這家企業的產品演示圖裡,被標註了“睡覺、閱讀、舉手、玩手機”等行為的次數。這引起了熱議,有人說,管理學生搞得像治理監獄。

被罵慘的企業可能感到很冤。它算不上先行者,一家教育企業早就宣稱,自家的技術能識別學生的專注度和情緒;百度公司則在2018年表示,監控學生的頭部動作和表情,就能辨別對方是否專心聽講,並“貼心”地推出了定制服務。這些新技術應用的“正面案例”大多淹沒在資訊的海洋,為數不多“翻車”挨罵的是杭州的一所中學。去年,該校領導在電視鏡頭前熱情演示了類似的系統。輕點幾下,幾個“不專注學生”的名字出現在大屏幕上。

有人懷疑這越界了。大多質疑聲投給了人工智能這項新技術。剛起步、未成型的東西代表未知,而未知帶來恐懼。最糟糕的猜想在科幻小說裡被描述過——人類的舉手投足被人工智能分析、控制,失去自由。

我想起高中班主任的眼睛和他手裡的教鞭,以及一些舊聞:人工智能還沒有流行時,學校風靡安裝攝像頭。有班主任使用班費裝了一個,每天監控班級;也有學校讓家長交100元,就可以隨時查看孩子的一舉一動。

好像也沒什麼不同,所以,我害怕的是人工智能,還是那些充滿控制欲、想把學生框進他們設計好的模子裡的人?或許人工智能本身並沒有引發“新問題”,它只是一個工具,交到了那些本就讓人反感的人手中。

一個流行的說法是,新技術一定會帶來新問題,比如人工智能會帶來隱私爭議。但同樣的人臉識別,被用於安防、尋找走失幼童、監護老人或重症病人,很少會陷入爭議。這些事人命關天,它們符合人們牢固的共識。我們每天使用的App,如今也都要拿走信息,分析和揣測我們的喜好。大多數人會同意那則協議,選擇用數據換取方便的生活,這是我們自己的決定。

但那個植入教室的攝像頭引發了軒然大波。孩子們很少能有與教師乃至學校平等的話語權,他們沒得選擇;再好的學生也會走神、會犯困,被一直注意只會帶來緊張甚至壓抑,沒人喜歡被控制,長輩卻總想要一直聽話的孩子;為了在監控與分析下取得“優良表現”,孩子們會不會被迫表演,就像我們經歷過的那些必須朗聲發言與熱烈鼓掌的公開課,這樣的學習有樂趣嗎?直至像一位網友所說,這項技術倘若被當成輔助工具,識別那些長期心情不佳、生活不順的學生,增添呵護,可能便具有溫情。可目前,廠家的賣點和買方的訴求,大都傾向於迫使學生時刻專心聽講,甚至直接獎懲。

這般理下來,發生在教室裡的這則公案,哪有“新問題”?都是“老問題”!技術發展帶來了諸多前所未有的倫理問題:能否編輯基因、克隆人類;有朝一日高度發達的人工智能是否該具備“人權”。但至少這次,問題沒那麼“浪漫”,就是後窗的眼睛變成了更高級的人工智能。

9月5日,教育部科學技術司司長雷朝滋在受訪時表露,對於類似人工智能,“要加以限制和管理,希望學校非常慎重。”“學生個人信息,能不採集就不採。”更大的背景是,今年7月,中國提出組建國家科技倫理委員會,將對新技術帶來的倫理和法律問題作出規範。

可以想像,這是一條必經之路。亟待完善的規則,既會涉及人類從未面臨的新場景,也要解決諸如這些監控、分析孩子們的攝像頭般,我們在過去尚未達成共識的問題。這也告訴我們,技術在未來的樣貌並不確定,不同人眼中的它們可能截然不同,需要彼此不斷探討甚至爭論。

教室攝像頭引發的風波里,有網友激烈地反對。他說,我這麼激動,是不想自己的孩子成為被監控的對象。有人想像了一個略顯驚悚的場景:人工智能覆蓋學校後,學生之後的下一個監控對像是誰?教師。再然後,或許是職場裡的所有人——不夠“專注”都要扣錢。

所幸,至少在今天,人工智能基本還是人畜無害、讓人覺得新奇、下意識喜愛的“孩子”。至於幾年、幾十年後,它的樣子,不由它自己,而由今天的我們決定。

  • 地铁“女士优先车厢”:歧视远大于保护
    2017年深圳地铁率先设立女士优先车厢,初衷是在地铁公共交通领域倡导进一步关爱女性和尊重女性的风气,进一步提高深圳的文明程度。近日,深圳有多名市民反映女士优先车厢内男性乘客很多,并称地铁女士优先车厢已形同虚设。
  • 人民网评:网络安全,既是防线又是底线
    电信诈骗有哪些套路?智能门锁为何能被轻松刷开?手机远程窃听如何做到的?这些都是人们身边的安全隐患,也是网络时代衍生出的安全问题。
  • 牛肉面价格腰斩 机场餐饮变的不只是价格
    机场通过多元化的服务、商品供应,定义一种新的消费场景,既能最大化满足不同人群的消费体验需求,也可激活价格竞争机制,大大抑制“天价”的生存土壤。
  • 让教师成为让人羡慕的职业
    每年秋天,都是老师们一个学年辛勤耕耘的开始,也是弘扬尊师重教美德的最好时点。
  • 评论:降准不是楼市“盛宴” 楼市调控将继续从严
    近4年来首次“普降+定向”的降准,无疑是逆周期调节力度加大的最佳注脚。
  • 大学生之“大”,不在于大手大脚
    这个量力,不仅是量父母口袋之力,还要量自己未来创收之力。
  • 人脸识别进课堂,有必要吗?
    前几天,一款AI换头术的手机APP,引发公众对于隐私权的集体焦虑,同理,大学课堂滥用面部识别技术也存在隐私被滥用的问题。
  • 答好“开学经济”这道入学试题
    笔记本电脑5000元,手机2000元,衣物2000元,行李箱500元,预备生活费1万元……孩子今年考上大学的湖北籍家长肖先生的购物单上有一长串数字。
  • 是该对“咸猪手”亮出刑法之剑了
    上海检察机关通报,8月26日,上海市铁路运输检察院以涉嫌强制猥亵罪,对犯罪嫌疑人王某某批准逮捕,该案系上海市首例“咸猪手”入刑案件。
  • 飞机餐严重缩水,机票价格应下调
    近日,多位经常乘坐飞机出行的乘客向记者反映,进入8月以来,他们在乘坐国内航班时明显感觉到,无论是经济舱还是公务舱,航空公司提供的餐食质量和服务内容都严重缩水,“大清早7点半的飞机,就发几包小零食对付”“商务舱现在吃的,连塞牙缝都不够”。
  • 人民日报人民时评:用阅读标注城市文化地图
    实体书店,正在成为城市文化的毛细血管,调节着我们的文化呼吸,营造着一个城市的文化气质。
  • 半月谈评论:公交“路怒”,公共安全不能承受之重
     汽车社会里,“路怒”一族正成为都市四处“潜伏”的马路杀手,危及公共安全。
  • 在拼搏奋斗中创造美好生活
    新中国的70年,是无数普通人命运被改变、权利得保障、生活更幸福的70年。回望过去,正是中国共产党不忘初心、牢记使命,攻坚民生“小事”、办好民心“大事”,给人民生活带来翻天覆地的变化,让人民获得感、幸福感、安全感更加充实、更有保障、更可持续。
  • 社评:香港首现“暴力退潮”,挑战仍很严峻
    香港反对派星期天在维多利亚公园举行集会,组织者民阵声称参加者为170万,但警方表示最高峰人数为12.8万。这个规模是近期最大的,但比之前两次的最大示威规模小了一大块。
  • APP窥探隐私行为需要各方“较真儿”
    8月13日,《2019年上半年我国互联网网络安全态势》发布,报告指出,每款APP应用平均收集20项个人信息,大量APP存在探测其他APP或读写用户设备文件等异常行为,这再度引发公众对移动APP违法违规收集使用个人信息问题的热议。
  • 人民财评:“对康美药业罚酒三杯”系误读
    公司罚款60万元,实际控制人及主管罚款10至90万元不等并终身市场禁入,这是此前证监会对康美药业及相关当事人的处罚。相比康美药业887亿元货币资金造假的行为,有人用“罚酒三杯”来形容其受到的处罚。
  • 体罚与惩戒的界限唯良知可究
    近日,“拦路打老师案”宣判,殴打老师的常仁尧犯寻衅滋事罪,判处有期徒刑一年半。常仁尧坚决要上诉,其家属则表示将追究老师责任,举报其20年前对常仁尧的体罚。
  • 台风天外卖平台应停止派单
    8月10日21时许,上海市第六人民医院抢救室收治了一名触电的外卖送餐员。
  • 人民网评:总书记的回信纸短情长,见证为民大爱
    纸短情长,见字如面。从脱贫攻坚,到志愿服务;从大学校园,到民营企业;从祖国边疆,到创新一线……党的十八大以来,习近平总书记多次给基层干部群众回信,饱含深情、字字暖心、催人奋进,体现着心心相印的人民情怀,蕴含着对治国理政的深刻思考,表达着对奋进新时代的殷切希望。
  • 人民快评:止暴制乱,媒体的“机位”不能跑偏
    偏袒一方拉偏架的,一定不是好仲裁;向着一方吹黑哨的,一定不是好球证;抛开事实真相只会煽风点火的,一定不是好媒体。获取这些常识性的体验和判断,不需要高深学问、丰富阅历,稍微动脑想想即可。
重庆华人会信息技术有限公司
华人会(深圳)互联网有限公司
华人会国际开发有限公司
备案号:粤ICP备16030660号-1
HRH (SHENZHEN) CO., LTD.   Copyright © 2015-2018 hrhapp.org   All Rights Reserved.
客户服务:service@hrh.org   商务合作:cobiz@hrh.org

渝公网安备 50010902000754号