芥末堆芥末堆

当技术用于监控学生的脸

作者:白宇极 发布时间:

当技术用于监控学生的脸

作者:白宇极 发布时间:

摘要:为什么我们的孩子,要遭遇这一切?

640.jpg

杭州十一中装了一个智慧课堂行为管理系统。

里面有三个摄像头,通过它对学生的课堂行为进行捕捉。校长说,“它是一双慧眼,可以洞察课堂上的一切。运用这个系统,我们可以看到哪些同学是在专注听课,哪些同学是在开小差。”

她还说,“再结合学生们的面部表情,比如高兴、伤心,还是愤怒、反感等,将这些数据汇总到终端,就可以分析出这个学生在课堂上的学习状态。”

从校长接受收集的视频来看,摄像头一装好,学生学习的热情高涨,表情比整容还整齐,几乎全部是幸福的样子。

但这事一经曝出,立刻引来大量批评。我问了两个朋友,他说在他们所在的国家,此事不可能出现,因为违法侵犯儿童人权,后果十分严重。我不知道,在中国此举是否也属违法,又有多严重。

二 

此事并非第一例。

去年中原某校就有这样的视频流出,我还曾为此写了《“数字化校园”不等于装一堆监控》。其实从前年开始,包括我接触到的一些所谓科技公司,已经开始以各种面貌进入学校。

它们渗入了教育教学的各个环节,无论是课堂、作业、考试都可以进行实时控制,并使用所谓的大数据进行分析。而真正的恐怖来自分析之后,大数据所给出的结果,所带来的是相应的制约措施,美其名曰“提升水平”。

在我看来,这些软件都以捆绑学生的自由为目的。杭州十一中目前的状况,让我想起了边沁所设计的圆形监狱。

那个监狱的模型,就是让狱卒可以在任何角度看见罪犯,罪犯的一言一行一举一动都无所遁形。现在这一切正在由技术实现。

640.jpg

在影片《飞越疯人院》里也有类似的规训,最严重的策略是切除脑前页,最终让一个人符合管制标准。但明显学校不是监狱,也不是疯人院。我们给予学生的,不应是捆绑,而是自由。

为什么我们的孩子,要遭遇这一切?

前一段,我跟孩子们在课上讨论善恶问题。 

我们提到了百度和Google。百度的企业价值观是“简单可依赖”,Google的理念则是举世皆知的“don't be evil(不作恶)”。

我们分析了魏则西事件和Google的医药广告事件,最终得出结论,工具或者技术本身并不为恶,恶的是人。

不但是百度,包括欧美很多伟大的科技公司,是否每个人都知道,其实这些公司参与了全球多处恶性事件?很多监控、追踪、激发人性丑恶的东西,都是由他们开发构建。就像facebook最近爆出的用户信息买卖,就是非常典型的案例。 

我曾说,技术的发展和运用,从来就不应为了去控制一个人,而是要使每一个人得到解放,获得更多的自由。如果所有的科技发展不是为了这样一个目的,那么未来的世界将远比我们想象的恐怖。

我相信,这些进入校园的科技公司不是不知道这些后果,但他们毫无节操和廉耻,仍然选择了为恶。这样的人心,我不知道为何会大行其道,而得不到遏制,其原因何在? 


西哲有言,所有的奴役灾难,都是其民众自作自受。王小波在一次社会调查中醒悟到:“所谓弱势群体,就是有些话没有说出来的人。就是因为这些话没有说出来,所以很多人以为他们不存在或者很遥远。”说起来,世上所有的权衡,都来自于沉默与喧嚣的对比。

沉默的那一边,就是毫无力量的一侧。善恶也是一样。

当我们佛系的看着所有恶横行的时候,也就站到了沉默的一边,就注定是一个无能的存在。而当我们不再沉默的时候,天平就会逐渐倾斜。

所以在杭十一中这件事上,我必须举双手反对。

如果我选择沉默,我担心整个世界都会成为杭十一中的扩大版。我们很可能陷入天网的世界。一个人的一切都将被控制,所有行为都会无所遁形,而你的一举一动都会被计算机记录,从而带来相应的奖惩。那将是史上绝无仅有的奴役。

在学校里,学生最讨厌的老师一定包括生活老师。因为生活老师的职责就是对他们的自由进行管制。而杭十一中这种利用科技作恶,并以此来监控学生的行为,远远超过了生活老师的恶,是可忍孰不可忍。 

在《我,机器人》那部影片中,一切的变化都始于一个异样的声音,当有一个机器人不再顺从时,世界从此改变。相信我,那就是你。

本文转自微信公众号“白卷”,作者白宇极。文章为作者独立观点,不代表芥末堆立场。

1、本文是 芥末堆网转载文章,原文:白卷
2、芥末堆不接受通过公关费、车马费等任何形式发布失实文章,只呈现有价值的内容给读者;
3、如果你也从事教育,并希望被芥末堆报道,请您 填写信息告诉我们。
来源:白卷
芥末堆商务合作:王老师 18710003484
  • 当技术用于监控学生的脸分享二维码