的议案展开投票,该议案将制止该公司向政府机构出售Rekognition,除非该公司董事会确认它会对人权包含风险。今年3月,警长办公室容许《华盛顿邮报》的记者在警车、刑警办公室和县监狱里睡上两天,仔细观察警员们是如何将这项技术带入日常案件的。
大多数拒绝接受专访的人回应,该软件为他们节省了时间,减少了被捕人数,并协助他们处置日益激增的视觉证据。警员和公众辩护人说道,到目前为止,还没经常出现因为照片给定错误而对被捕明确提出的任何法律挑战。
但是俄勒冈州的律师说道,在很多人显然,技术不应当沦为治安未来将要迈进的一步,他们修建的系统不是作为技术里程碑,而是道德:如果为了逃跑更好的坏人,但有更加多的好人可能会被被捕,这是好的吗?“人们总是讨厌说道,‘嘿,如果是需要捉坏人就很好啊,谁介意呢’”俄勒冈州的首席副辩护律师Joshua Crowther说道,“直到他们有一天也被捉了。”【 图片来源:pixabay 所有者:pixabay 】“与魔术无法区分”2016年,当亚马逊(Amazon)公开发表Rekognition时,该公司称之为其为一种强劲的深度自学人工智能方式的突破,其结果显示“与魔术无法区分”。在一篇备有一位高管宠物狗照片的博客文章中,该公司为人们如何开始用于它获取了一些一般性的点子,还包括用作安全检查点或相连在一起搜集观众面部数据的广告牌。
这次揭幕式引发了eBay前程序员Chris Adzima的留意,他雇用于华盛顿县治安官办公室,负责管理研发一款能被警员应用于跟踪犯人不道德的iPhone应用程序。他的机构在网上早已有成千上万的面部照片,但没确实的方法来分析它们。通过用于亚马逊的人工智能,他在将近三周的时间里就创建了一个系统并运营一起。
“他们对现实世界中的任何类型的应用于案例都没具体的概念,但他们告诉自己建构了一个强劲的工具,所以我开始用于它了。”在治安官总部的一个小隔间里工作的高级信息系统分析师Adzima说道。警员们立刻开始将面部搜寻划入日常侦察任务中,Adzima还创建了一个非常简单的内部网站,让他们可以在巡逻车中展开搜寻。
他退出了搜寻信心的百分比,并设计系统每次回到5个结果。他说道,当系统回到0个结果时,议员们不会猜测他们否把事情搞砸了。
为了减少趣味性,每当一名警员上载一张照片,他还不会加到了一个不必要的紫色“扫瞄”动画——他说道这是受到了像《犯罪现场调查》这样的警匪片的灵感。当他开始在亚马逊的服务器上大量输出图像数据时,那里的账户管理人员注意到了这一点,一些人对他将其用作警员工作回应吃惊和激动。2017年,美国公民自由联盟的一份公开发表记录催促首次透露了一封电子邮件。
邮件中,一名亚马逊的客户高管将Adzima讲解给一家警用照相机公司的高管,该公司期望理解他是如何“解决利益相关者的阻力”的。“你现在是AWS的名人了。”这位高管写到,并附上了一个笑脸的表情符号。
这里的警员们说道,这个系统是一个极大的压制。曾在5起偷窃和偷窃案件中用于过该搜索引擎的Chris Lee回应,他的许多同事沦为了多产的用户,渴求寻找一种解决问题艰苦狩猎的非常简单方法。
“你总是在想要:这不会给我们带给什么吗?”他说道。在培训方面,警员们只不会接到一份打印机出来的办公室人脸识别政策,以及一份结尾的PPT展示文稿,警告他们要小心处理结果。其中一张幻灯片展出了该系统对上载的O.J. Simpson面部照片的反应:撤回一张蓄胡子的白人男子的照片。
“正如你所看见的,”幻灯片上写到,“这个系统依然必须人工说明。”该机构宽约四页的政策拒绝工作人员仅有在“犯罪联系”的情况下用于该系统,并禁令在“大规模监控”中用于,或根据宗教、政治活动或种族对人展开监控。但它也获取了一些值得注意,还包括容许在“生命受到根本性威胁”的情况下展开面部搜查,或者当警方指出重罪嫌疑人将在特定时间经常出现在特定地点时展开面部搜查。这种搜查协助警员想到了一些非常规的方法。
在一个案例中,一名囚犯在监狱里打电话给他的女朋友,她说道有逮捕令要被捕她。警员们转入了这名囚犯的Facebook页面,寻找了一段她唱歌的旧视频,并通过人脸识别搜寻获得了她的名字,几天后她就逮捕了。警员还可以通过系统查询黑白警用速写找寻结果,他们说道,在一个测试案例中,它指向了一名他们早已标记为嫌疑人的男子。
亚马逊回应,通过Rekognition展开速写并不违反规定,但它期望人工审查人“紧密注目以这种方式分解的任何给定结果的可信度”。来自县公设辩护律师办公室的Bruington说道,Rekognition的便宜价格和易用性可能会引诱警员机构尝试一种他们有可能并不几乎理解的系统。她还担忧,该系统对脸部照片的倚赖意味著任何以前被警员带进来的人,都更加有可能在刑事搜查中新的露面。她说道:“无辜的人每天都要拒绝接受刑事司法系统的审判。
”“看那只鸟”几十年来,人脸识别技术仍然是警察局的梦想:一种非常简单的、不为人知的、可以在不知情或予以他人表示同意的情况下辨识远方的任何人的方法。但直到最近几年,由于光学技术和计算机能力的提升,以及数据存储成本的大幅度上升,这项技术才显得廉价和普遍,被用作给Facebook照片加标签,以及关卡iphone。
如今的系统将人们的面部照片分解成茁壮串的代码,称作“特征向量”或“脸纹”,可以与可观数据库中的其他肖像较慢较为。但是,尽管“计算机视觉”算法擅长于模式识别,但它们给定的是像素,而不是线索,而且可能会忽视在人眼见来显著得难以置信的不一致性。
尽管如此,事实证明,廉价和更容易辨识的允诺对许多公司来说过于有吸引力了以至于无法忽略。美国国家标准与技术研究所是评估人脸识别算法的联邦机构。
该机构最近回应,它早已测试了44家公司的127套系统,测试它们在“大规模人群中的可扩展性”,以及在野外辨识“非合作对象”时的准确性。来自微软公司和中国初创企业依图科技的顶级算法,可以在包括数百万张图像的数据库中,以99%的准确率给定人脸照片。亚马逊此前曾拒绝接受递交Rekognition的评估报告,称之为这项研究孤立无援版本的核心搜索算法的测试无法在简单的基于云端的搜寻中运营。但NIST的一名官员回应,这一事实未阻碍其他公司展开类似于的搜寻。
一位亚马逊官员回应,该公司已启动一项“实质性”希望,去“新的设计”系统的“关键组件”,以便参予其中。美国联邦调查局(FBI)回应,在过去的一个财政年度,该机构展开了5.2万多次面部辨识搜寻。
2016年,乔治敦大学的法律研究人员找到,最少有52个州或地方机构在或许上依赖由联邦承包商或监控公司创建的面部识别系统。但亚马逊根据“储存的人脸”数量缴纳部分费用,让任何一支新警察队伍的跟上都显得非常简单一起。没联邦法律管制面部辨识的用于。
不过,今年3月美国参议院明确提出的一项两党议案,以及亚马逊总部所在地华盛顿州明确提出的一项议案,这些议案可能会实行新的规定,比如拒绝公司通报过路人他们的脸正在被扫瞄。预计旧金山领导人下周将就一项遭警方赞成的议案展开投票,该议案将使旧金山沦为美国第一个禁令当地机构用于面部辨识软件的城市。
亚马逊高管回应,他们反对国家展开人脸识别法律,但他们也坚称,“不应当因为它有可能被欺诈就禁令或指责新技术。”联邦调查局(FBI)特工和奥兰多警方回应,他们早已对该系统展开了测试,亚马逊早已向还包括移民和海关执法人员在内的政府机构促销了这套系统。华盛顿县的律师们说道,他们才刚刚开始在被捕报告中看见这种技术,一些人正在为有可能要在法庭上就系统的可接受性驳回诉讼的那一天做到打算。在俄勒冈州公共申辩服务办公室工作的副首席辩护人Marc Brown说道,他担忧系统的隐蔽的决策有可能使权力的天平弯曲:人类目击者可以在法庭上明确提出批评,但对这个“神秘的黑盒”不可以,“我们作为辩护律师无法告知这个过程是如何工作的。
”Brown补足说道,该体系的结果可能会通过引领议员们的反应,带给一个极大的证实偏差问题。他说道:“你早已被告诉这就是你要去找的人,所以当你调查的时候,你的脑海里就不会显露出有这个点子。问题仍然是谁犯了罪,而是反对计算机分析的证据在哪里?”亚马逊的软件于是以很快显得更为先进设备。上个月,该公司宣告了一项Rekognition改版,该改版将提升系统的“情绪检测”功能的准确性,可以根据一个人在镜头前的样子自动推断出有他的感觉。
它还包括7种不受反对的情绪:快乐、哀伤、气愤、吃惊、反感、安静和疑惑。亚马逊还享有甚广热门的门铃摄像头制造商Ring,该公司去年申请人了一项面部辨识专利,该专利需要在卖家门口找到“怀疑”人士。
Ring的一位发言人回应,公司的专利申请目的“探寻新技术的全部可能性”。与此同时,华盛顿县治安官办公室的人脸数据库仍然在快速增长,每年大约有1.9万次监狱购票。
当人们被被捕时,他们不会被带回一个熙熙攘攘的接待室,在那里他们不会被一个网络摄像头摄制下来,摄像头的顶部是一个红色的豆豆娃红衣主教。“看那只鸟。”照片的时候警官不会对他们说道。这些照片沦为了该县整个刑罚系统中囚犯的身份,监狱内部的一个网站和iPhone应用程序将这些照片表明在一个大网格中,这样警员们就可以较慢追踪他们的食物摄入量、不道德和自杀身亡风险。
Rekognition在囚犯被关在监狱后会被用于,但它依然在监狱里产生了错综复杂的影响。Brian van Kleef副警长车站在3号舱的警卫室神经中枢,这里是囚犯们称作“洞”的最低安全级别的侧翼,他说道:“这是我们搜集数据库的地方。
”录:本文编译器自The Washington Post版权文章,予以许可禁令刊登。下文闻刊登须知。
本文来源:NG体育-www.sgz88.com