面部识别拒绝种族歧视

来源 :南风窗 | 被引量 : 0次 | 上传用户:keyina
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
荣智慧 主笔

  美国黑人乔治·弗洛伊德被警察用膝盖顶住脖子窒息而亡的事件,在美国各地掀起了巨大的抗议浪潮。一波波群情激昂的游行示威中,美国的几家科技巨头均动静不大—除了特朗普和推特的宿怨嘴炮之外。
  6月8日,“蓝色巨人”IBM终于站了出来。首席执行官阿文德·克里什纳(Arvind Krishna)向美国国会致信,宣布该公司已完全退出面部识别业务。信中写道,“ IBM不再提供通用的IBM面部识别或分析软件。IBM坚决反对也不会容忍任何技术(包括其他供应商提供的面部识别技术)用于大规模监视,种族歧视,侵犯基本人权和自由的行为,或与我们的价值观和《信任与透明度原则》不符的任何目的。”
  此举是对监测示威游行的当局使用面部识别人工智能平台的回应。之前《纽约时报》就揭露过人工智能平台Clearview,有数以百计的执法机构和企业与它合作。Clearview有一个庞大数据库,包含了从脸书、推特、Venmo等热门网页上抓取的30多亿张照片。
  刺探隐私不说,这些面部识别人工智能软件还具有“历史悠久”的算法歧视。根据美国国家标准技术演技院2019年12月的报告,“大多数人脸识别算法表现出人口统计学差异”—意思就是,人工智能会因为种族、性别和年龄而无法正确识别。在弗洛伊德事件爆发前,人工智能把黑人男性认成“黑猩猩”已经引起了相当程度的指责。
  人工智能学好不容易,学“坏”是很快的。前几年,微软机器人“小冰”受“不良网友”熏染,脏话比美国小混混说得还溜。而面部识别人工智能还“继承”了歧视传统—白人男性识别得最准,黑人女性识别得最不准。这个结论有研究数据支持:2018年,IBM人工智能软件识别白人男性的准确率高达99.7%,识別黑人女性的准确率仅有65.3%。
IBM宣布放弃面部识别技术,比解散一个城市的警察部门更能动摇执法的技术基础。这才是弗洛伊德之死引发的大游行的最重要的胜利。

  本来,IBM是计划在人工智能领域(包括面部识别)有一番作为的。两个月前,印度裔的克里什纳就任IBM的CEO,表示IBM将专注于混合云和人工智能两大战略。IBM在2019年年初力争纠正面部识别的“偏见”。当时IBM发布了一个名为Diversity in Faces(DiF)的脸部多样性数据集,目标是减少对深色人种的辨识度偏差,该数据集包含100万张已标注的人脸图像。
  不过,面部识别业务一直没有给IBM带来重大的营收;同时,当前美国社会强烈关注警察制度、种族歧视等敏感问题,这两个方面促使IBM做出了上面的决定。反面例子则是亚马逊。之前美国公民自由联盟称人脸识别 “可能是有史以来最危险的监视技术”,并多次上书美国政府:要求亚马逊停止向警方提供其旗下的Rekognition人脸识别技术。2019年亚马逊在股东会议上就 “停止向政府机构销售人脸识别技术”进行投票,只有2.4%的股东同意,投票也就没能通过。亚马逊的CTO温纳·沃格斯公开说“技术无罪”。最近的大游行中,亚马逊的店也被砸了不少。
  虽然坊间对IBM也不乏指责,认为其只是抛掉了“鸡肋”版块,但对于一家两个月前依然将该业务视为发展方向、对美国政府也是重要客户的科技公司来说,做出这个决定并不容易。
  更重要的是,IBM宣布放弃面部识别技术,比解散一个城市的警察部门更能动摇执法的技术基础。这才是弗洛伊德之死引发的大游行的最重要的胜利。可惜很多人没有意识到这一点。
  更进一步去看,乔治·弗洛伊德的死亡及爆发的大规模游行示威,不仅提示我们要考虑政治、社会和道德的复杂勾连,更要考虑到技术与个人、技术与集体、技术与权力之间的模糊地带。在这片地带里,有很多珍贵的东西不能失去。
其他文献
7月17日,在约翰内斯堡的流浪者板球体育场,南非总统拉马福萨(左)和美国前总统奥巴马(右)出席2018年曼德拉年度讲座。  “让我们从冲突和压迫的荒野,走进希望、自由、民主和平等的土地吧。”曼德拉昔日的门徒、如今的南非总统拉马福萨,在7月18日曼德拉百岁冥诞纪念活动上说。  自1994年种族和解以来,南非成功结束了种族隔离,实施全民参与的民主制。在执政的24年中,非洲人国民大会(ANC,简称非国大
樟树下的夏天是宁静的,整齐的自建房,对着喜人的田野  从21岁开始第一次相亲,期间不间断地寻找、尝试、努力,今年30岁,李聪明终于要结婚了。  结婚日子定在了2019年正月初十,老黄历上说,这是开年之后最好的一个日子,比初二和初四还要吉利。虽然结婚日期是两个月前就和亲家商量好的,但按照鄂东南的农村习俗,还是要在婚期将近时,由男方在红纸上写好日期,郑重地送去女方家,叫作“报日子”。这一天,准新郎赠付
梁永安 文化学者  《小津安二郎全日记》选自日本导演小津安二郎1933年至1963年的笔记,选的是其中那些“日记性记述”。30年的行迹记录,正好概括了小津(1903—1963)的后半生时光。他一生导演了54部电影,现存胶片(包括片段)37部,大部分都出品于1933年之后。小津是个心境平和的人,追求“不以强烈的剧情起伏就能让观众感受人生”。这实在是太难了,几乎放弃了连续影像最擅长的故事性,专力挖掘人
赵英男 北京大学法学博士生  “宅兹中国”本是学者葛兆光讨论“中国”一词历史与地理含义的著作的名称,却不料成为今年春节期间每位国人真实的生活写照。看着手机上电视中每日疫情播报,那种一开始身临其境的心惊肉跳,逐渐演变为沉痛过后的揪心。生产与生活虽然只是短暂的停顿,但这正如花儿乐队所唱,“空虚敲打着意志,仿佛这时间已静止”。当有几日天猫、京东种种商家都不再推送打折通知与降价短信时,就只有小区门口扫码出
2019年4月28日,泰国皇家卫队士兵参加国王加冕仪式彩排  2019年5月上旬,泰国新国王玛哈·哇集拉隆功举行加冕仪式。同月,日本皇太子德仁也继位成为新一任天皇。这一“历史巧合”,让泰国和日本这两个亚洲的君主立宪国家,再次成为世人关注的焦点。  在一个政治日益碎片化的时代,我们既需要跳出“非好即坏的革命史观”,同时也要跳出“非东即西的终结史观”,才能对君主立宪制在现代国家(尤其是在东方社会)中的
曾几何时,发现黄金或碳氫化合物等自然资源,可以驱动世界最有活力的经济。今天,技术、创新和企业家精神才是真正的驱动力。众所周知,一家没有任何实物资产的一两个人的高科技初创企业,可以在眨眼间改变整个行业,并发展为一家市值高达数十亿美元的公司。  这场由技术驱动的革命,有可能赋予发展中国家加速经济现代化的大好机会。例如,拥有1.3亿年轻人口却以传统经济为主的巴基斯坦以及其他发展中国家,可以从中国汲取灵感
1912年3月10日,袁世凯宣誓就任中华民国临时大总统  距今整整100年前,1920年,直皖战争爆发,由此开启了北洋军阀的数年混战时期。军阀之祸,于斯为盛。历史转折的种子,也在其中暗暗生长。  历史如谜。一代人,其实难知是否身处历史大变化的转折期,脚下是急流还是小浪;更无法预测,历史的河流若是改道,将何时、在哪里发生。  以国人熟悉的近代史来说,戊戌变法失败,引来清末中枢权力格局翻转,不谙国际相
2018年9月14日,美国纽约,移动内容平台趣头条在纳斯达克挂牌上市  趣头条把自己推到舞台聚光灯之下,是2018年9月14日纳斯达克的一场IPO。人们突然发现,短短两年,趣头条在上海这座被称为魔都的城市,以令人咋舌的速度成长起来。更让人摸不着头脑的是,谁是趣头条?  低俗、传销、烧钱……在今天,以很low的词汇判断一种新的、充满争议的商业模式,无处不在。然而,趣头条的投资者、用户和竞争对手们,却
航空发动机被誉为现代工业“皇冠上的明珠”,很可能会成为美国下一个抑制中国高科技发展的靶标之一  4月27日,美国商务部提议修改部分对华出口商品规则,要求对飞机零件、半导体相关出口产品施加新限制,甚至要求外国企业对华出口美制商品时,须经美方同意,以避免将美制商品转用于其他国家的军事应用。  依据原规定,若商品总价值含有美制零件的25%以上,美企须在有许可证的情况下才能对外出售。而据多家美媒报道,美国
我同意提高性同意年龄。  近年来的司法实践中,成年男子以谈恋爱、诱骗等手段与年满14周岁不久的未成年少女发生性关系的案件有增多趋势,此类案件中的成年男子处心积虑选择刚满14周岁不久的少女作为目标,容易得手且不会被追究。14周岁的性同意年龄这道红线,被人恶意利用。因此,提高性同意年龄,继续加大对未成年人的保护,具有一定现实意义。  据媒体报道,欧洲超过四分之三的国家,性同意年龄高于14周岁;美国50