首页商务电子 › 警惕人脸识别背后的,人脸识别技术滥用亟需法律规范

警惕人脸识别背后的,人脸识别技术滥用亟需法律规范

原标题:人脸识别技术滥用亟需法律规范
来源:法制日报·法治周末法治周末记者 
张贵志  近年,人脸识别技术给人们的生活带来了极大的便利,在失踪搜救、安保、侦破、反恐等领域也发挥了积极作用。但与此同时,其也引发了公众对人脸识别侵犯隐私、泄露个人信息的担忧。  在此背景下,12月5日,在南方都市报大数据研究院·南都个人信息保护研究中心主办的“2019啄木鸟数据治理论坛”上,南都个人信息保护研究中心人工智能伦理课题组发布了《人脸识别落地场景观察报告(2019年)》(以下简称《报告》)。课题组研究发现,人脸识别应用无论是在便利性还是安全性的提升上,都远非想象中那般美好。在个人信息泄露频发的态势下,超七成的民众对网络运营者的安全保障能力存有疑问,担心人脸信息遭泄露。  对此,《报告》呼吁,应尽快加强相关立法,为企业划定标准和底线,防范人脸识别技术被滥用。  APP专项治理工作组副组长、个人信息安全规范编制组组长洪延青建议,将人脸识别的应用场景纳入现有的法律框架加以规制。人脸识别技术有待完善  人工智能应用落地,最典型的当属人脸识别了。近两年来,一些火车站、酒店、部分小区、学校,甚至购物支付等都靠刷脸了,而且发展迅猛。1月,北京市住建委发出通知,纳入北京市保障房建设计划的公租房项目,全面采用人脸识别、智能门锁技术。  但是,课题组研究人员对北京3个公租房小区实地探访后发现,部分小区的人脸识别设备形同虚设。主要为刷脸不成功时,保安不核实身份即放行;有的是人脸识别闸机损坏,可以自由出入;其中有两个小区的门禁,不用刷脸,只需用一张并非高清晰的业主照片,就可以刷照片进去。这意味着,随便偷拍一张业主的远距离照片便可轻松进入小区。  而在之前,浙江嘉兴就发生过小学生用照片刷开丰巢快递柜,并成功取件的事情。据了解,人脸识别技术分为2D和3D识别技术。一般而言,3D技术的安全性高,但成本也高。而用照片能刷开的,基本都是2D人脸识别设备和普通摄像头。  如果有人戴帽子、戴墨镜、距离摄像头过近或过远,在过门禁或闸机时,会多次刷脸或摘掉帽子、眼镜才行,这样会耽误更长时间。  除此之外,人脸识别系统有时还会出现识别错误。在深圳,一公交车闯红灯,因为车身上印有董明珠的图片,人脸识别系统在抓拍时,直接识别为董明珠闯红灯。  “当一名男性佩戴上3D打印的奇特眼镜,人工智能也可能会将其识别成一名女性。”中国电子技术标准化研究院信息安全研究中心数据安全部主任胡影介绍,如在交通标识“停止”牌上贴一些标签,人工智能可能就识别不出“停止”的意思。  对此,《报告》指出,有半数以上的受访者遇到过人脸识别不出的问题,而帽子、眼镜、化妆、光线、角度等因素都会影响人脸识别的准确率,这需要进一步完善和提升人脸识别的准确率和灵敏度。不同场景需不同法律规制  人脸识别在公共场所悄然落地,大多数人被刷脸、被记录行踪,却毫不知情。课题组的研究员在装有人脸识别系统的北京秀水街商城、西单大悦城、杭州银泰in77商场调查时发现,这些商场即便对顾客进行了刷脸,并跟踪记录消费轨迹,但没一家商场告知顾客并征得其同意,顾客亦不知道自己被刷脸、行踪被记录。  而《报告》当中的数据显示,在公租房、交通、校园、商场等场景下,都各有半数以上的受访者表示,没有签署隐私政策或不清楚是否签订了隐私政策。这意味着,一旦发生信息泄露,用户难以要求网络运营者提供合理的处置或救济措施。  一般而言,网络运营者会在隐私政策中明确其收集的个人信息类型、范围、约束和管理准则、安全措施等,这相当于为用户提供了一份承诺和保障。然而,人脸识别应用涉及线上线下。技术先行、法律滞后,给其带来了监管的灰色地带。  除了各大商场、酒店、车站、学校、小区等地落地人脸识别外,前段时间,天坛公园、日坛公园等地的厕所,还出现了人脸识别厕纸机。人脸识别厕纸机品牌创始人雷振山称,推出该产品的初衷是减少资源浪费,且这仅用于统计每人取厕纸的数据。  但课题组的研究员在实测中发现,许多场景的人脸识别设备没有提供隐私政策或用户协议,公众无法在知情同意的前提下使用。以厕纸机为例,研究员进入摄像头范围后就被刷脸,关于人脸数据怎样存储、是否能删等关键问题,没有进行任何说明。  环球律师事务所律师孟洁表示,人脸作为重要的个人生物信息,用来换取免费纸张,存在价值比例失衡问题。企业在获取人脸信息前应得到用户的自愿和同意。除了刷脸领厕纸一种方法外,还应有其他替代方式。  洪延青则指出,使用人脸识别如果只是为了区分不同的人、达到计数的目的,那么,需不需要用到人脸这么一个特征?法律上有个比例的基本原则,刷脸领厕纸存在价值比例失衡问题,这种应用可以禁止。  洪延青继而提出,如果公权力部门推行人脸识别,该如何做呢?美国很多城市完全禁止公权力部门应用人脸识别技术,禁止的出发点就是正当性和比例性不足,而非个人信息保护框架。因此,讨论一个技术要看用在什么场景,不同的场景可以找到不同的法律框架去规范,而无需在每个场景重新立法去规范。
洪延青建议将人脸识别的应用场景分为计数、识别、认证、监控、伪造、窥探六大类,并将其分别纳入现有的法律框架加以规制。  他告诉记者,对于认证、识别场景,可以适用个人信息保护中的“知情-同意”和个人敏感信息的框架予以规制;至于监控场景,本就属于“识别+追踪”;在新零售等企业监控场景中,用户可以用“知情-同意”这样的经典框架来拒绝或者对抗。  “未来的人脸识别应用将会有许多新场景,但基本上都是出于上述的六类基础场景。”洪延青说,现有对人脸识别的多数讨论并没有区分场景,在区分场景后,“就不需要在每个场景中都重新发明一套法律去规范”。人脸识别用于学生引争议  人脸识别应用必将涉及个人信息收集,校区场景还可能涉及未成年人。鉴于涉隐私话题总能触及公众痛点,社会上对人脸识别的争议颇多。  8月,瑞典一所高中使用人脸识别系统记录学生出勤率,被瑞典数据监管机构认定对学生个人信息处理不符合规定,对其开出欧盟《通用数据保护条例》施行后的第一张罚单,金额为20万瑞典克朗(约合人民币14.8万元)。  而国内学校应用人脸识别的例子也不少。《报告》显示,9月,中国药科大学在部分教室安装人脸人别系统,用于日常考勤和课堂纪律管理,也在社会上引发了“是否侵犯学生隐私”的争议。  课题组研究人员走访发现,有不少培训机构和学校利用人脸识别刷门禁、监测学生和教师的上课情况,有的还进行情绪识别和行为分析等。  在北京市第二十中学,当学生刷脸出入大门时,后台系统就将学生出入校门的时间发到家长手机上。另外,学生还能通过刷脸,在食堂取餐,在小卖部购物。  北京化工大学昌平校区则是通过人脸识系统检测学生的出勤率。如某学生上课缺席,则会发信息提醒老师和该学生。此外,该系统还能检测抬头率、前排就座率。  有学生认为,引入人脸识别有助于督促学生好好学习,但更多学生认为侵犯了自己的隐私。  另外值得注意的是,一类此前曾引发争议的校园应用——情绪识别,也已在现实中悄悄蔓延。  9月,国内某知名人脸识别企业宣传称,公司已掌握情绪识别技术,通过摄像头抓拍就能获悉学生的听课感受。该消息一出,就遭到了社会的强烈质疑。  专家从技术层面上看,面部的情绪识别更多是“噱头”。深圳大学计算机视觉研究所所长沈琳琳表示,目前通过人脸识别判断情绪的技术尚不成熟,准确率不高。而通过行为识别分析抬头率、坐姿和视线集中等还是有较高的准确率,但如果这些数据是用来衡量学生的成绩和表现,将学生当成流水线上的产品,可能会影响学生的个性化和创新性。  中国人民大学法学院副教授丁晓东认为,人脸识别可以在某些安全场景中合理运用,但如果过度使用和依赖人脸识别,特别是让其承担教育与监督功能,则可能适得其反。  《报告》认为,人脸识别就像一把双刃剑,在某些场景中甚至弊大于利。要通过制定法律法规和国家标准,明确企业的从业资质与行为规范;在较为敏感的场景,应限制乃至禁止人脸识别的应用,同时制定完善的准入机制、规制措施与问责制度,从而最大程度地防范人脸识别技术的滥用。  责编:王海坤

原标题:警惕人脸识别背后的“盲区”

警惕!人脸识别背后的“盲区”

人脸识别带来便利的同时,也引发担忧。有关专家建议,加强相关立法,规定人脸识别的准入场景、准入条件,明确企业的资质,明确一旦违规应该接受何种处罚。


刷脸一时快,问题却不少。

人脸识别技术开始在很多场景落地,相应的纷争也接踵而至。

2019年10月,杭州一位消费者因当地野生动物园要求消费者刷脸入园,将动物园告上法庭,被称为“中国人脸识别第一案”。

近日,南都个人信息保护研究中心发布了《人脸识别落地场景观察报告》,揭开目前我国人脸识别应用背后的“盲区”。

“刷照片”也能开门

2019年10月,南都个人信息保护研究中心人工智能伦理课题组成员来到位于北京朝阳区和丰台区两个公租房小区,对该小区的人脸识别系统进行实地测试。

当课题组成员尝试拍摄小区居民照片后,把手机照片对准居民楼下的人脸识别机器时,机器里传出了一声清脆的“门锁已开、您请进”。随之而来的是楼道门打开,课题组成员轻而易举地走了进去。

因价格便宜,公租房长期存在违规转租转借现象,这一直是管理者头疼的问题。2019年1月,北京市住建委发布《关于进一步加强公共租赁住房转租转借行为监督管理工作的通知》,提出纳入北京市保障房建设计划的公租房项目应全面采用人脸识别、智能门锁等技术,强化人脸识别等技术措施与门禁相结合,实现非承租家庭成员不得随意进入楼栋单元门。

课题组成员挑选了几个公租房小区进行测试。他们发现,有的小区人脸识别安全技术不过关。“我们使用的其实并不是高清照片。”课题组成员冯群星表示。目前,人脸识别技术可以大致分为2D和3D识别技术,前者通过2D摄像头成像,后者通过3D摄像头立体成像。

一般而言,3D技术的安全性高,但成本也高。有专家表示,用照片能够刷开的基本是2D人脸识别设备和普通摄像头,这种情况可通过更换成红外双目摄像头、加入改良算法等方式来避免虚假照片的攻击。

除了安全问题,冯群星和同事还发现,有的小区的人脸识别技术设备对残障人士“不友好”。在一些小区大门口,人脸识别闸机的摄像头高度约为1.2~1.6米,一般人可正常通行,但坐轮椅的残障人士就很难达到摄像头的高度,“这些问题也跟北京市公租房相关管理部门反映了,他们非常重视,目前在查实和整改这些问题了”。

走出社区,课题组成员还走进了校园、商场、公共厕所等场所,体验人脸识别设备的便利性和安全性。

在北京,课题组成员发现,人脸识别进校园虽然没有被广泛宣传,但普及程度并不低。一些学校把人脸识别系统用于门禁、课堂考勤以及监测课程质量。有学生表示,目前自己所在的学校课堂的人脸识别系统能检测出学生的抬头率和前排就坐率,从而监测老师的课程质量。但也有学生担忧,这样的技术涉嫌侵犯自己的隐私。

转载本站文章请注明出处:银河娱樂城 http://www.51minimoto.com/?p=1203

上一篇:

下一篇:

相关文章