算法黑箱强化偏见数字技术加剧美国的种族歧视

【鸣镝】
作者：唐颖侠（南开大学人权研究中心副主任）
互联网、大数据以及人工智能等数字技术在为人类增加福祉的同时，也可能带来人权的负面影响，尤其可能对在种族、性别、年龄等方面处于弱势地位的特定群体造成不成比例的人权损害。美国拥有全球最先进的数字技术，却不仅没能为其解决种族问题带来契机，反而进一步复制、强化甚至加剧了其系统性和结构性的种族歧视。
以种族为坐标的数字鸿沟和技术障碍
美国虽然在全球数字经济中占据主导地位，但少数族裔从新兴数字技术中获益的机会却低得令人难以置信。根据美国联邦通信委员会的数据，2016年，约41%居住在部落的土著美国人无法获得视频会议等活动的互联网服务。皮尤研究中心2019年的一项调查显示，在美国，非洲裔和西班牙裔拥有电脑或拥有高速互联网的比例仍然较低。大约有82%的白人表示拥有台式电脑或笔记本电脑，但拥有电脑的非洲裔和西班牙裔只有58%和57%。在宽带使用方面也存在巨大的族裔差异，白人家里有宽带连接的比例比非洲裔和西班牙裔高出13%到18%。
被广泛应用的面部识别技术本身也隐含了种族歧视的因素，许多能够成功识别白人面孔的算法却无法正确识别有色人种。2019年，美国国家标准与技术研究院发布了一份报告，显示了全球99名开发人员提交的189种人脸识别算法在识别来自不同人口统计数据中的面孔时的表现。测试显示，与白人相比，无法准确识别非洲裔或亚裔人脸照片的可能性高出10至100倍。在搜索数据库以查找给定的面孔时，非洲裔女性显示错误的比例明显高于其他人口。
社交媒体传播仇恨言论和种族主义
新兴数字技术为快速和大规模传播种族主义、仇恨言论与煽动歧视暴力的言论提供了渠道，而社交媒体平台在其中发挥着关键作用。自2014年以来，美国的仇恨团体数量增加了30%，仅2018年就增加了7%。根据美国南方贫困法律中心2019年的统计，在美国查明有1020个仇恨团体。据美国反诽谤联盟的监测报告，美国2018年的白人至上主义宣传事件数量为1187起，比2017年的421起增加了182%。仇恨团体在世界各地以“种族纯洁”和种族优越感为名对少数族裔实施恐怖袭击和杀戮，包括2018年在美国匹兹堡发生的反犹太主义袭击。2018年，新纳粹和其他白人至上极端主义团体在加拿大和美国造成至少40人死亡。这些种族仇恨团体经常利用社交媒体平台寻找志同道合的个人，相互支持，并传播他们的极端思想。此外，仇恨团体也越来越多地渗透到了“游戏”世界。