目前还没有关于如何使用人工智能技术或面部识别系统的联邦法律,但一些州和地方政府已经做出了自己的努力:例如,伊利诺伊州有一项法律要求公司在收集生物识别信息之前征得客户的同意。加利福尼亚州参议院目前正在考虑一项法案,该法案将禁止该州的警察使用生物识别技术(如面部识别)和身体摄像机。
根据新的旧金山法律,任何想要使用监控技术或服务的城市部门必须首先得到监事会(Board of Supervisors)的批准。该过程将包括提交有关技术及其使用方式的信息,并在公开听证会上提交。根据新规则,任何已经使用监控技术的城市部门都需要告诉董事会是如何使用它的。
该条例还规定,该市每年都需要向监事会报告监管设备和服务是否按批准方式使用,还包括保存、共享或删除数据的详细信息。
不过,也有一些人反对该条例:“当负责任地使用时,它可能是一个很好的公共安全工具。”
美国会两党共同提案:立法暂停使用人脸识别软件
上个月,美国国会两党在一场国会听证会上正式讨论了对执法部门使用面部识别软件所带来的日益担忧。议员们听了几个小时的证词,内容涉及不受监管的面部识别如何跟踪抗议者,影响刑事司法系统,并加剧种族偏见等。
不同寻常的是,两党这次都表现出了合作的态度,同意共同努力对面部识别进行监管。
两党一致认为面部识别软件有侵犯公民隐私权和抗议权的隐忧,寻求立法暂停此类工具的使用。包括面部识别软件专家在内的团队认为,在更完善的监管出台或技术充分成熟之前,此类面部识别工具应由国家叫停。
当前,FBI 和国土安全局等联邦机构在使用面部数据识别潜在犯罪嫌疑人前是不需要获得搜查令的。目前还不清楚该委员会计划如何起草法律来打击潜在的违法行为,但两党议员都对美国公民的面部扫描可能侵犯了宪法权利这点提出了担忧。
专家警告称,由于这项技术推出得太快并且存在严重缺陷,可能会导致调查人员对潜在嫌疑人进行误判。
美国并非唯一对面部识别技术忧心忡忡的国家。近日,欧洲人工智能高级别专家组(HLEG)发布报告,提议“欧洲应该禁止AI进行大规模监视和社会信用评分”。报告写道:“政府应承诺只部署和采购值得信赖的人工智能系统,其设计宗旨是尊重法律和基本权利,符合伦理原则,社会技术健全。”
肤色、性别歧视引争议,专家批判面部识别技术被滥用
大约一年前,美国公民自由联盟(ACLU)首次公开了亚马逊的面部识别软件已在使用的事实。从那时起,对该软件的审计发现其更有可能偏向白人,对黑人很有可能识别不当,特别是女性黑人。当 ACLU 将国会议员与犯罪数据库进行匹配时,亚马逊的 Rekognition 软件错误地将28名议员识别为罪犯。被识别为罪犯的 28 名议员中,40% 是有色人种,尽管国会议员中有色人种的比例仅为 20%。
去年,亚马逊的人脸识别程序 Rekognition 曾将 28 名议员错误地识别为罪犯,引发巨大争议。
没有监管的现状下,滥用面部识别技术的可能性很高,特别是对于有色人种。MIT媒体实验室研究员和算法正义联盟(Algorithmic Justice League)创始人 Joy Buowamwini 发表研究表明,人脸识别系统对肤色较浅的男性表现优于肤色较深的男性,而对于肤色较深的女性则表现最差。
她的研究成果遭到 AI 领军企业的批评,但有数十位著名的 AI 研究人员为其辩护。她在会上说:“至少,国会应该通过一项关于警察使用人脸识别的禁令,因为人脸识别的滥用、缺乏监督和技术的不成熟会造成很大的风险,对于边缘化社区而言尤其如此。”
美国走向保守:禁止人脸识别的城市在增加
自MIT的研究和 ACLU 的报告以来,微软和亚马逊都声称已经缩小了准确性方面的种族差异。
但是,改进技术以更好地识别黑色面孔只是过程的一部分:准确度很高的技术仍然可能被用来支持有害的警务。
如何使用这项技术很重要,这就是政策可以防止滥用的地方。微软和亚马逊提出的解决方案是,在人脸识别已经投入使用后,再对其进行种族和性别偏见的审核 —— 这可能为时已晚。
科技的发展向来就是一把双刃剑,任何一项技术的应用都常有利弊相随。美国在人脸识别这样的技术应用方面似乎走向了保守的道路,旧金山、波士顿郊区已经成为正式立法禁止警方和市政部门使用人脸识别软件的两个城市,奥克兰也在考虑类似的禁令。在纽约,人脸识别被尝试用于在大桥上识别车内司机面孔,结果是彻底失败。
像人脸识别这样的人工智能技术应用,到底应该鼓励还是禁止,欢迎读者朋友留言讨论。