源之原味

亚马逊的面部识别 AI 混淆政客与罪犯

 

本文来自thenextweb.com。源URL是: https://thenextweb.com/artificial-intelligence/2018/07/26/amazons-facial-recognition-ai-confuses-politicians-with-criminals/

以下内容由机器翻译生成。如果您觉得可读性不好, 请阅读原文或 点击这里.

近十年前, 一名名叫丹尼斯. 格林的47岁黑人妇女从她的车上被拉到六名旧金山警察的枪口下。其中一人用猎枪指着她的脸, 另一只手铐铐着她, 命令她跪下。尽管有膝部问题的历史, 绿色遵守了每一个命令。二十分钟后, 她被释放, 自由地去她的生活。

警方最初怀疑驾驶偷来的车是绿色的, 当时一台机器学习算法设计用来扫描车牌认错她的, 不正确地将她的汽车标记为失窃。

不用说, AI 并不完美。

今天, 美国公民自由联盟 发表 研究表明, 亚马逊的面部识别软件-被称为 Rekognition-认错28的435名国会议员作为罪犯。更糟糕的是, 有不成比例的颜色的人被标记 (39%) 对白人 (5%)。

亚马逊已经对这份报告作出了回应。根据 《纽约时报》, 一位发言人说, 美国公民自由联盟未能正确使用该软件。这是真的, ACLU 没有使用推荐的设置。亚马逊 建议将其 Rekognition 软件的容错性设置为 95%, 以执行执法, 而 ACLU 将其设置为80%。此外, 亚马逊希望每个人都能用人的眼睛来确认 AI 的结果, 毕竟最终用户可以安全、负责地部署任何软件。

但是, 在你称美国公民自由联盟一堆没有好的肮脏骗子之前, 请记住, 没有任何法律反对公民自由工会将亚马逊的 Rekognition 软件的容忍率设置为80%。就像没有人阻止警察做同样的事情, 或设置它更低。在英国, 他们已经部署了面部识别软件, 98% 的错误率 (不是亚马逊, 使律师们心寒)。

事实上, 在美国, 几乎没有任何关于使用面部识别软件的立法。这就是为什么 这么多人, 包括公司的 自己的员工首席执行官 一个面部识别软件公司, 正在敦促科技公司不要为政府开发它。这包括 一封信几个月前, 从国会黑人核心小组的成员, 其中一些软件认错在美国公民自由联盟的测试中的罪犯。

似乎美国政府、执法机构以及制造面部识别软件的技术公司都需要问自己, 如果他们喜欢被铐上手铐, 被迫跪下, 并在枪口下举行20分钟, 因为 该算法 他们的肤色不太好。

至少车牌阅读器只是曲解数字, 亚马逊的 AI 曲解了人们。这也将产生真正的后果。


亚马逊的面孔识别错误地匹配28名国会议员与 Mugshots
关于 ACLU

下一篇:

三星的新显示器正式 "坚不可摧"。我等不及要打破它了。

Leave A Reply

Your email address will not be published.