纪录片《编码歧视》：客观的算法是不存在的

全文共2045字，预计学习时长6分钟

图源：unsplash
弗洛伊德之死掀起了美国乃至全球各地又一轮反对种族歧视的运动，人们对结构性不平等的认识也进一步提高了。尽管大众关注的焦点是美国警察的暴行，但也有许多学者、活动家和艺术家发出警告——全面的种族主义是如何通过通讯和监控技术在科技行业等其他领域被加剧的。
在沙里尼·坎塔亚的纪录片《编码歧视》中，导演跟随麻省理工学院媒体实验室研究员、算法正义联盟(algorithmic justice League)创始人乔伊·布兰维尼，发现了面部识别的一个根本问题：布兰维尼意识到计算机视觉软件无法跟踪她的脸，但当她戴上白色面具时，效果却很好。这是面部识别和人工智能系统中存在歧视的最新证据。
坎塔亚与布兰维尼一起采访了作家、研究人员和活动家，例如凯茜·奥尼尔、梅勒迪斯·布鲁萨德、萨菲亚·诺布尔和西莉·卡洛，探讨了面部识别或犯罪预测等软件目前存在的技术问题。这些技术常常与种族监控、优生学或人相学等黑暗的历史实践有关。
这部在圣丹斯电影节上放映的影片，以批判的眼光审视了假定的算法“客观性”，奥尼尔将其定义为“利用历史信息对未来做出预测”。虽然算法通常被看作是公正、客观且理性的，但它们可以重现创造者的偏见。
布鲁萨德说，我们给科技灌输了“神奇的思维”，这虽然赞扬了它的好处，却掩盖了它的负面影响。

图源：第七帝国传媒
《编码歧视》纪录片展现了算法歧视对现实世界产生负面影响的。影片描述了休斯顿的一个学区如何在其“增值”教师评价系统中使用秘密算法，该算法甚至将获奖教师归类为“差老师”；警察使用的面部识别软件也经常将黑人误判为嫌疑犯。