当前位置: 首页 | 会议 | 首页新闻

美国旧金山禁用刷脸技术或是对AI狂热的一种降温

来源:光明网 发布时间:2019-04-22 浏览次数:148

今年2月,环球网福克斯新闻报道,旧金山可能成为美国第一个禁止政府使用人脸识别技术的城市。近日,旧金山市通过了对《停止秘密监视》条例所作的一些修订,条例强调:“人脸识别技术侵害公民权利和公民自由的可能性大大超过了其声称的好处;这项技术将加剧种族不公正,并且威胁到我们的生活不受政府持续监视的能力。”这意味着,美国第一个城市禁用人脸识别软件将成为现实。

人脸识别是今天多种多样人工智能技术中相当新锐又被视为具有广泛用途的技术,对个体生物识别、安保、刑事鉴识、社会生活等都有重要的意义。其被一个城市叫停,至少可以解读为,在AI技术发展突飞猛进之时,相应的对其管理的规则和技术还不成熟。

旧金山市禁止人脸识别的最大理由是,它将公民置于政府的持续监视之下,侵害公民权利和自由,同时也会造成种族歧视。这些是AI伦理的一部分,人类社会不能为了使用技术而发展技术,更不能以发展和使用技术为由违反甚至破坏人类社会公认的伦理底线。

目前,对AI技术的狂热已经让这一技术有失控的危险。为此,欧盟在4月初抓紧公布了AI伦理指导方针,要求公司和政府机构在未来开发AI时应遵循7大原则。其中的第一条是,AI不应该践踏人类的自主性。人们不应该被AI系统所操纵或胁迫,应该能够干预或监督AI软件所做的每一个决定。旧金山市禁止使用人脸识别技术的重要理由,与这一指导方针吻合。

人脸识别和其他AI技术一样仍存在较大问题。首先,人脸识别技术并不可靠。亚马逊及其他公司的人脸识别技术对非裔美国人误认,甚至将28名国会议员误认为嫌疑犯。美囯佐治亚理工学院的乔伊·布拉姆维尼团队分析了3500张肤色各异的人的照片,发现自动驾驶技术在识别黑色皮肤人群时的准确度平均降低了5%。微软、IBM和Facebook等大公司推出的商用人脸识别软件系统,也无法识别女性和有色人种。

人脸识别技术还可能被模仿并用于造假。一项被称为GAN(生成对抗网络)的新兴技术可以把任何人的相貌换成另一个人并通过检测。实际上,GAN是一种生成模型,可以自动生成图像,也能自动篡改图像,可以轻而易举地通过人脸识别技术的检测进行造假和欺诈。

类似的情况,还有2017年问世的Deepfakes换脸技术,能将《神奇女侠》主角盖尔·加朵的脸嫁接到另一位女影星的身上,看起来天衣无缝,也使得使用这项技术对任何人换脸并通过人脸识别成为可能。统计表明,互联网有大量的合成信息,如合成声音、生成图像、AI合成不存在的人像等,这让人脸识别在尚未被普遍使用之时,可靠性就遭遇空前危机。

人脸识别的不可靠之处还在于,其不安全性是长久的。相较于个人的生物信息,保护个人的其他密码是可更换的,但个人生物信息一旦泄露和遭到改变,就会是终身泄露,除了影响人们的生活,还让人处于永远的不安全中。

欧盟关于AI的7项伦理指导方针要求,AI系统收集的个人数据应该是安全的,能够保护个人隐私,不应该被任何人访问,也不应该轻易被盗。但是,目前的人脸识别技术大多为公司和政府所有,属于专有技术,缺乏公平和公正的第三方的严格监管。

从这个意义上讲,旧金山市禁用AI人脸识别技术,是在平衡AI技术的利弊之后进行的立法。现在,美国参议院正在考虑一项监管人脸识别软件商业使用的法案,这也是从管理角度来保证AI技术的安全和公平公正使用。未来,如果技术的进步和法律能保证人脸识别技术到达更稳妥更可控的安全程度,也许禁令会被撤销。(张田勘)


【返回】

地址:北京市海淀区北京外文文化创意园12号C区 邮编:100044

Copyright © 城市通卡网京ICP09038623号-3  "城市通卡网,全新平台传播通卡,引领未来"  技术支持:东云创达