算法黑箱强化偏见数字技术加剧美国的种族歧视(2)

电子游戏和与游戏有关的论坛、聊天室和直播流媒体网站已成为最主流的新纳粹招募场所。
算法系统重复并强化种族偏见
首先，算法系统可能在工作权方面加剧种族歧视。联合国特别报告员在2020年的报告中指出，在美国一些用于招聘的算法因其具有歧视性而受到批评。此类算法系统根据现有“成功”员工的数据库来确定候选人，而数据库包括性别、族裔或宗教信息。因此，算法系统作出的决策即反映出就业中现有的不平等现象，重复并强化了基于种族、性别等的偏见。
其次，新兴数字技术也对少数族裔的健康权产生了歧视性的影响。一篇发表在《科学》杂志上的研究发现，美国医疗保健系统使用商业算法来指导超过2亿人的医疗服务健康决策，对非洲裔患者实施了系统性的歧视。由于输入数据中没有“种族”选项，开发者认为该算法是“不分种族”的，但对于与白人患病程度相当的非洲裔患者，该算法始终给予其较低的风险分数，未能识别出将近一半与白人患者同样有可能产生复杂医疗需求的非洲裔患者，导致他们无法参与改善健康的干预项目。
最后，定向广告中的种族歧视侵犯少数族裔的住房权。控制着美国22%数字广告市场份额的社交媒体网站脸书，过去允许广告商在其广告定位工具的“人口统计”类别下排除具有某些“族裔亲缘关系”的用户来“缩小受众范围”。这种定向广告可以用来阻止非裔、亚裔或西班牙裔观看特定的住房广告。这种“只限白人”的广告，不禁让人联想到在种族隔离合法化的吉姆·克劳时代，那时报纸为广告商提供只向白人读者投放广告的选项。
预测性警务技术导致严重的种族歧视
2016年8月31日，由17个组织组成的联盟发表了关于美国执法部门使用预测性警务工具的声明，指出该技术缺乏透明度，带有种族偏见以及其他导致不公正的深刻缺陷。预测性警务是指通过评估有关人员的数据，例如他们的年龄、性别、婚姻状况、药物滥用史和犯罪记录，预测其参与犯罪活动的可能性。
洛杉矶警察局率先使用预测性警务技术公司开发的算法工具，纽约和芝加哥警察局随后创建了一个“热名单”，其中包含根据人口统计数据犯有枪支犯罪的“战略主体”逮捕历史和社交媒体细节。预测性警务工具的工作方式缺乏透明度，警察局普遍不愿意透露算法的工作原理。这使得这些算法成为“黑匣子”，无法被任何外部人士审计或评估。到2019年，该系统已为超过40万人分配了“高风险”评分，并被视为预防暴力犯罪的主要手段。预测性警务工具会产生严重的歧视性犯罪预测错误，据美国司法部2020年的数据，非洲裔被警察在没有正当理由的情况下拦住的可能性是白人的5倍，被捕的可能性是其两倍。美国的预测性警务工具使用种族作为预测因子，通过将警察派往他们以前监管过的地方来复制和加剧警务中的偏见，增加了对非白人社区的过度监管。既有数据集反映着现有的种族偏见，因此尽管这些技术被假定具有“客观性”，甚至被认为有可能减轻其所取代的人类行为体的偏见，但其运作反而加剧了种族歧视。