行业新闻

奥巴马成了白人、95%错误几率……人脸识别在西方还有多少前途?

日期:2020-07-02

人脸辨认

在我国,关于AI技能进步的干流观念是推重的,新闻常常以正面情绪报导才智城市体系为城市带来的便利性、人脸辨认体系对治安的重要性等,但在西方国家,AI却是人们不时警觉的目标。当然,这首要也是他们自己形成的。

近来,底特律差人局长詹姆斯·克雷格标明,当地的人脸辨认体系在绝大多数情况下不起作用。他说:“假如独独只运用这个体系来辨认涉事者,在95-97%的情况下,咱们底子无法破案。”

和他这番话对应的,是前几天底特律警方遭到的一次投诉。

周三,一个名为美国公民自由联盟的安排对底特律警方提出了投诉,称由于人脸辨认体系的过错,一名黑人男性罗伯特•威廉姆斯(robertwilliams)在自家前草坪上上被无辜拘捕。

该安排描绘,“其时他的妻子梅丽莎在一旁看着,女儿们因受惊而哭泣”。随后,威廉姆斯毫无理由地被关在一间“拥堵龌龊”的牢房里过夜。

底特律警方给出的拘捕罪名是,威廉姆斯曾在2018年10月偷盗了一家商铺偷盗总价值3800美元的5只手表。警方经过人脸辨认算法,将含糊的闭路电视图画匹配到了威廉姆斯的驾照相片。不过,根据警方发言人的说法,他们并没有“仅仅根据面部辨认才能进行拘捕”,还采用了证人口信,并让受害者辨认了相片。

但是,就在拘捕威廉姆斯后的第2天,警方供认抓错了人,并标明“一定是电脑搞错了”。

随后,当地检察官办公室的回复证明,差人仅仅采用了人脸辨认成果作为拘捕根据,并没有如他们所说,向现场目击者出示相片进行辨认。

这也再次让民众将锋芒指向了颇受争议的AI技能。美国公民自由联盟在投诉中要求,底特律警方应停止运用面部辨认:“威廉姆斯的案子证明,这项技能存在缺点,并且警方查询人员也没有才能运用这种技能。”

众所周知,西方社会有着悠长的种族轻视前史,许多观念还根深柢固的存在部分人的潜意识里。这就导致欧美程序员在编写AI算法时,简单将轻视和成见引进。此外,练习算法时不加挑选地运用大数据,也会导致数据隐含的社会轻视带入其间。

许多研讨重复标明,人脸辨认算法在白人男性身上运用时简直100%精确,但在肤色较深和性别较公正的情况下会出现严峻问题。

就在上星期,外媒报导了一件让人啼笑皆非的事。美国杜克大学科研团队推出了一款名叫PULSE的算法,能将16x16像素、马赛克等级的含糊人脸,转换为1024x1024、足以以假乱真的高清图画,新相片可以出现脸上的毛孔、皱纹乃至一缕头发。

当然,它仅仅运用算法再造了一张人脸,并非“复原”,新生成的人像图片与原始的实在人脸并不完全相符。

这原本没什么,但随后,有网友发现这个算法有严峻的种族轻视倾向。

他们发现,在PULSE中输入被含糊后的奥巴马相片时,该东西输出的“奥巴马”高清图画竟是白人面孔。后又有许多人进行了类似的测验,成果无一例外——输入低清的少量族裔人脸相片,PULSE输出的都是高清的白人特征相片,连闻名的华裔女演员刘玉玲也没能逃脱。

AIAIAI

杜克大学研讨团队很快在Github上回应称:“看起来PULSE生成白人面孔的频率的确比其他有色人种高许多,这种成见很或许是从StyleGAN练习时运用的数据集承继而来的,也或许存在咱们不知道的其他要素。”

反技能的数字权力安排“为未来而战”的副主任埃文•格里尔称:“面部辨认本质上是风险和压抑的,它既不或许被变革,也不或许被标准。”

除此以外,超越1000名专家本周签署了一封公开信,对立将AI用在另一个和违法有关,但或许导致更严峻后果的范畴——即违法预测。

跟着争议事情和对立呼声越来越多,本周,波士顿完全禁用了人脸辨认技能,成为首个推出这一行动的城市。此外,旧金山、奥克兰和加利福尼亚等多个区域,均在考虑跟从这一做法。