亚马逊面对三方的重重压力 人脸识别技术或将遭停用

奥兰多市与奥兰多警察局发布声明称,已于上周停止使用亚马逊深度学习人脸识别技术——Rekognition,从去年12月份开始为期6个月的合同已经到期,目前不再续约。声明中还称,工作人员将继续讨论和评估未来能否重启该项技术,而目前评估工作仍在进行中,说明奥兰多市仍可能在今后对亚马逊“敞开大门”。

RekogniTIon虽然已经被Pinterest、C-SPAN等公司使用,但是在ACLU(美国公民自由联盟)调查了6个月之后发现亚马逊至少跟两家执法机构“秘密”合作。奥兰多市布局公共安全监视网络,亚马逊RekogniTIon的负责人Ranju Das称,“亚马逊会从摄像头反馈的图像与执法部门的寻人照片进行对照,一有进展就立即通知执法部门。RekogniTIon的重要性在于从大量数据库中锁定目标并进行追踪,做到实时反馈。”除了奥兰多警察局,华盛顿警长办公室也使用了该项技术,用于搜索身份不明的嫌疑犯。

奥兰多政府恐侵犯人权,已停止使用亚马逊人脸识别技术

虽然奥兰多市很看好与亚马逊的合作,表示“一直在寻求保障当地居民和外来人员安全的新举措。在不违反隐私权的情况下,与亚马逊这样具有创新性的公司合作,有助于推进社区安全。”同时承诺不会用人脸识别技术追踪正常居民。但是ACLU对奥兰多市给出理由并不买账,声明“RekogniTIon技术的广泛使用会给有色人种、非法入境移民、抗议示威民众带来可怕的后果。”

ACLU在6月25日给奥兰多市长Buddy Dyer和议会发邮件,要求他们立即停止使用人脸识别监视技术。邮件中还称,人脸识别系统威胁到公民的自由,尤其是政府机构在未经社区讨论、未经地方立法监督、没有防止滥用的规则出台的情况下就“秘密”实施。这为奥兰多市的居民造成了极大的威胁,而这来源于亚马逊技术的支持。

亚马逊面对来自员工、投资人、人权组织的三方压力

针对奥兰多和华盛顿的情况,上个月ACLU位于加利福尼亚、俄勒冈、佛罗里达的多个分会就联合给亚马逊写信要求其停止向政府机构销售Rekognition,超过40个民主组织签署表示支持ACLU的提议。亚马逊股东上周致信贝佐斯表示,如果Rekognition被滥用,极有可能侵犯人权,并销售到国外的专制政权,同时对公司股票产生负面影响。亚马逊员工也写请愿书要求贝佐斯不仅停止与执法机构的Rekognition合作,同时停止与ICE和Palantir的合作。请愿书中写道,“作为有正义感和道德感的亚马逊人,对生产面向市场的产品有选择权,对其如何被使用有话语权。以史为鉴,IBM在二战期间为德国提供其特有的穿孔卡技术屠杀犹太人,而我们无法允许那样的事情再发生。”

人脸识别技术是否真的准备好应用于执法工作中

为了维持Rekognition在执法机构的订单,亚马逊表示一旦发现用户违反法律便会立即停止提供服务,用户在使用Rekognition时要有底线,必须遵循法律对自己的行为负责。上个月,亚马逊曾对 Gizmodo 说,Rekognition的确做了一些好事,帮助执法部门抓住盗窃犯、找到被绑架的受害者、找到游乐场失散的儿童。虽然亚马逊一再强调科技的重要性,“如果因为技术会被滥用就取缔它,那么如今的生活质量只会变得更差。”但是社会似乎更关心科技是否会助纣为虐。

乔治敦大学法隐私和技术中心的助理Clare Garvie说道,实施面部识别的部分问题是其对言论自由的潜在影响。好比在游行示威中,面部识别就如同警方在队伍中穿行,要求在场的每个人都出示身份证明。加之亚马逊在科技领域的影响力,会有更多执法机构愿意参与进来。Kairos(人脸识别及AI技术初创公司)的CEO Brian Brackeen发表了一篇反对将人脸识别应用在执法工作中的文章。文章中写道,在种族歧视严重的美国,非白人受到更严格的审查,人脸识别只会加重“不平等”。在数据库还不够完善的当下,让技术去“指认”一个人是否犯了罪是极其不负责任的。

言语之中可以听出亚马逊的无奈,但是如此多的“反对声”说明人脸识别技术还不够成熟,很多弊端没有应对之策,想要应用在执法工作中目前来看或许还行不通。