推文照片预览有种族偏见?Twitter新计划:审视自家算法里的“无心之失”

智工具(订阅号:zhidxcom)
编| 张之珮

智工具9月22日消息,针对多名用户称推文预览存在种族鄙视的问题,Twitter回应,将睁开更多調察并公开算法源代码,欢迎用户察看算法、提出意见。

先前,多名用户发现,在有差别人种的照片中,Twitter的主动图像裁剪算法会在选择预览推文出现的缩略图地区时,越发突出肤色更浅的人像地区。

推文照片预览有种族偏见?Twitter回应:将开源算法

一、多个试验表明,图像剪裁算法更难辨认深色人种

在滑动手机时,人们通常不会留意到附在推文预览上的缩略图,但在上周,研究职员却发现用于提取缩略图的裁剪算法大概更“偏爱”白种人。

在多名用户公布的差别人种的照片中,Twitter倾向于在缩略图中突出淡色人种的图像,而假如你点击这些原始图片,可以看到此中包含更多其他肤色的人群,但纵然改变了原图中深色人种和淡色人种出现的位置,预览结果也不会改变。

密码及底子架构工程师Tony Arcieri也在推特上进行了一项试验,展示了美国前总统巴拉克·奥巴马(Barack Obama)和!参议员米奇·麦康奈尔(Mitch McConnell)的面貌。而无论二人位置怎样,要么改变其他潜在滋扰因素,比方领带的颜色等,算法都倾向于在预览的缩略图中展示Mitch McConnell的脸。

也有网友以为,出现这一环境是由于算法更倾向于提取图像中的亮度高和色彩密度大的地区,并不是“私见”。

推文照片预览有种族偏见?Twitter回应:将开源算法

二、Twitter最新回应:测试中并未发现种族鄙视证据

针对该试验,Twitter发言人利兹·凯利(Liz Kelley)回应称,在算法正式使用前的测试中并没有发现种族或性别鄙视的证据,但仍需进一步分析,并增补,公司将公开机器学习算法的源代码,以便“其他人可以察看和复制” Arcieri试验的结果,并深入探究问题的根源。

推文照片预览有种族偏见?Twitter回应:将开源算法

德国的开发职员比安卡·卡斯特(Bianca Kastl)就此中一个线程中讲明道,Twitter的算法大概是基于明显性,也就是人们视觉搜索的次序,来裁剪图像的。

Twitter在2018年的博客文章中支持了他的理论,并讲明了其用于图像裁剪的神经网络算法。先前,Twitter将面部检测功能纳入裁剪图像的部分,但这种方法并不实用于没有面貌的图像,以是交际网络转而接纳了基于明显性的算法。

但纵然Twitter算法并没有故意地产生“种族私见”,但也有充足多证据证实,其在研发過逞中的缺陷导致“种族鄙视”出现。 NVIDIA的AI研究总监Anima Anandkumar指出,明显性算法接纳的练习集,是异性恋男性的眼球追踪的数据,而这显然会将受试者的种族私见转移给算法。

三、错误辨认引起乌龙,算法“私见”并非个例

基于性别肤色的面部辨认正确率差别早已不是奇怪事了。早在2018年,微软在辨认肤色较浅的男性时,正确性就已到达了100%,但在辨认深色皮肤女性时,正确率仅为79.2%。

在推特“私见”事件发生前,本年六月初,微软也同样由于面部辨认涉及种族鄙视引起了一场乌龙。英国知名女团Little Mix成员Jade Thirlwall发文,剧烈反攻微软新消息网站MSN在关于自己的报道!中殽杂使用了团内另一位成员的照片,随后,该篇报道证明是由AI抓取并天生,却在寻找配图时把黑皮肤的Leigh和阿拉伯裔的Jade弄混了。

随着越来越多的新消息网站和交际媒体接纳AI辨认、提取图片,人们开始留意到很多算法,尤其是面部辨认中存在的种族私见。

结语:算法私见问题正引起重视

越来越多的用户投诉网站中潜在的种族私见,再加上“黑人的命也是命”的抗议活动升级后,很多科技公司被迫反思系统,尤其是面部辨认技能中存在的私见,包括IBM和Amazon在内的一大批公司告急暂停或中断面部辨认系统的工作。

Twitter也答应将其图像裁剪的机器学习算法开源,担当更多用户的检察和提议,其首席技能官Parag Agarwal表现,该算法需要不停革新,团队也渴望从履历中学习。

twitter人像追踪

Twitter新计划:审视自家算法里的“无心之失”

Twitter公布了一项新计划。

该计划被称为“负责任的机器学习”,重要研究Twitter所接纳的算法的公正性。

计划的内容之一,就是由来自公司内部的数据科学家和工程师们,研究Twitter对机器学习的使用怎样导致算法偏差,并评估其算法大概造成的“偶然伤害”,再将研究结果公之于众。

“我们正在进行深入的分析和研究,以评估我们使用的算法是否存在潜在危害,” Twitter在官方文件中写道。

主要使命之一是评估Twitter图像裁剪算法中的种族和性别私见。随着越来越多的新消息网站和交际媒体接纳AI辨认、提取图片,人们开始留意到很多算法,尤其是面部辨认中存在的种族私见。

此前有Twitter用户指出,在有差别人种的照片中,Twitter的主动图像裁剪算法会在选择预览推文出现的缩略图地区时,越发突出肤色更浅的人像地区。

去年9月,有研究职员发现,点击这些原始图片,可以看到此中包含更多其他肤色的人群,但纵然改变了原图中深色人种和淡色人种出现的位置,预览结果也不会改变。

也有网友以为,出现这一环境是由于算法更倾向于提取图像!中的亮度高和色彩密度大的地区,并不是“鄙视”。

针对算法被控告种族鄙视一事,Twitter其时回应称,将睁开更多調察,并答应将其图像裁剪的机器学习算法开源,担当更多用户的检察和提议。

首席技能官Parag Agarwal表现,该算法需要不停革新,团队也渴望从履历中学习。

从上个月起,Twitter开始测试表现完备图像而不是裁剪预览。

但就算Twitter的算法并非“存心”种族鄙视,但研发過逞中很大概会有一些缺陷导致种族鄙视的出现。

NVIDIA的AI研究总监Anima Anandkumar就曾指出,明显性算法接纳的练习集,是异性恋男性的眼球追踪的数据,这显然会将受试者的种族私见转移给算法。

别的,Twitter还将研究其内容提议,包括时间线信息流在差别种族群体中的差别性等。

Twitter表现将与第三方学术研究职员“紧密互助”,分析结果后续将会分享出来,并征询民众的反馈。

现在尚不清晰这一计划将产生多大影响。Twitter表现,这些研究结果不肯定会表现在肉眼可见的产品变革是,更多时间是围绕他们构建和应用机器学习的方法进行重要讨论。

Twitter首席实行官杰克•多西(Jack Dorsey)也曾表现,他盼望创建一个算法市场,类似应用商店的情势,让用户可以或许控制自己使用的算法。该公司在其最新的博客文章中说,他们正处于探索“算法选择”的早期阶段。

不但是Twitter,实在对各大交际媒体平台来说,这是一个迫不及待的问题。

受美国国内一些社会事件的影响,立法者向Twitter、YouTube和Facebook施压,要求他们进步算法的透明度。一些立法者发起立法,要求巨头们评估算法是否存在私见。

Twitter决定要分析自己的“算法私见”,是在Facebook等其他交际网络之后做出的——Facebook在2020年建立了类似的团队。

此前微软也曾发生类似事件:早在2018年,微软在辨认肤色较浅的男性时,正确性就已到达了100%,但在辨认深色皮肤女性时,正确率仅为79.2%。

去年六月初,微软也同样由于面部辨认涉及种族鄙视,引起了舆论风浪。

英国知名女团Little Mix成员Jade Thirlwall发文,剧烈反攻微软新消息网站MSN在关于自己的报道!中殽杂使用了团内另一位成员的照片。

该篇报道证明是由AI抓取并天生,却在寻找配图时把黑皮肤的Leigh和阿拉伯裔的Jade弄混了。

在收到越来越多的的用户投诉,以及反种族鄙视海潮的升温之后,很多包括IBM和Amazon在内的一大批科技公司被迫反思系统,尤其是面部辨认技能中存在的私见。

雷锋网编译,出处:The Verge 雷锋网雷锋网 (订阅号:雷锋网)

雷锋网原创文章,未经授权禁止转载。详情见 转载须知 。

Twitter新计划:审视自家算法里的“无心之失”

央视网消息:第九届中国电子信息展览会昨天(9日)在深圳开幕。在本届展览会上,由中央广播电视总台牵头制订的《8K超高清大屏幕系统视音频技能要求》正式公布,为8K超高清大屏幕系统建设、应用、测试和运行维护提供技能规定,加速推动国内超高清产业应用落地。这次展会也设置了1000平米超高清视频专业展区,5G+8K及种种超高清、柔性表现技能成为最大的亮点。

记者在现场看到,很多展台都展示了从拍摄到制作传输、!编解码和表现终端的整个超高清完备产业链,此中很多先辈技能都是初次表态。这是环球首款量产的OLED超高清变形电视,通过遥控器可以调治屏幕的弯曲程度,以顺应看影片、玩电竞的差别需求。

别的,这款产品还配有一个1200万像素的高进光AI摄像头,它具有人像追踪功能,能随着追踪人像的运动进行上下左右4个角度的旋转。这台85寸的电视搭载了国内自主研发的首颗超高清画质芯片,它的动态背光处置技能能使画面清楚度到达4K电视的4倍。

除了大屏幕的超高清技能,种种用于手机和PAD上的小屏表现科技也是琳琅满目。如今市面上已经有不少折叠屏手机,而更先辈的柔性屏也已经问世。这种能伸缩的云卷屏手机就不需要折叠,上下一拉尺寸就变大了,再一推就缩成了原来一半的大小。

除了超高清技能以外,一些5G+超高清+AI的跨界技能也表态本次展会。这是一个公开场合安防和疫情防控的应用,它不但能通过5G+超高清装备智能辨认可疑物体,也可以对人群过分密集地区提前发出预警。据理解,由产业和信息化部、国度广播电视总局、中央广播电视总台!联合公布的《超高清视频产业发展举措计划》提出,2020年我国超高清视频产业总体范围超越4万亿元,用户到达2亿户。

本文网址: https://www.4008140202.com/pp/2021414102957_3536_580998260/home

推荐阅读

tags

最新发布