为什么算法的公平性令人难以捉摸？(2)

最近，我有幸采访了斯坦福大学Sharad Goel 。我们谈到了他在算法公平性方面的一些应用工作。我们还特别地针对算法公平性概念化争论的三个方面的好处和缺点，进行了讨论。技术人员可以从Sharad Goel的<a href="https://5harad.com/papers/fair-ml.pdf" h"="">这篇文章 中找到对这一争论的更全面的阐述，但我将在本文中尝试将其总结一下。
算法公平性的三个概念
特定群组标签应该禁止使用。这种认知模式认为，在进行预测时，不应该允许算法考虑某些受保护的类别。从这个角度来看， 比如说，用于预测贷款资格或累犯的算法不应该允许基于种族或性别的预测。这种实现算法公平性的方法是直截了当和容易理解的。但它主要有两个问题：
1.区分受保护类别的可接受和不可接受的替代物。即使从算法中消除了这些类别，由这些受保护类别解释的统计方差也倾向于滑入其他可用变量中。例如，虽然种族可能被排除在贷款申请之外，但邮政编码往往与种族高度相关，它可以在模型中承担更高的预测权重并掩盖了歧视。无论出于何种目的，邮政编码都将成为新的种族变量。什么是保护类别的非法替代品？什么是是可接受的、不同的变量？这是很有挑战性和值得商榷的问题。这条模糊的线给我们带来了另一个让某些标签成为“禁区”的问题；
2. 社会（有时是个人）的成本很高。受保护的类别通常会对算法设计用来预测的行为产生重大的影响。例如，众所周知，男性司机的保险费较高，因为男性司机确实占到了保险支出总额的大部分。从这些算法中消除性别会导致男性司机的汽车保险费下降，但会增加女性司机的保险费率。是否应该要求妇女支付超过其风险份额的费用，并将性别因素从风险算法中排除出去？这是一个值得商榷的问题。简言之，虽然这可能创造完全的平等，但这似乎没有达到按比例公平的标准。所以有人可能会说，这种做法实际上是不公平的。
在刑事司法环境中，这种风险可能更大。从预测累犯的算法中删除性别或种族等受保护的类别会降低算法的效率，这意味着更多的实际风险较低的人会被拘留，更多的实际风险较高的人会被释放。其后果将是：（在总体上）更多的犯罪会发生，特别是在已经经历更高犯罪率的社区中。要认清这一点，请记住，大多数暴力犯罪发生在相互认识的人之间。因此，在算法效率降低时（尽管可以解释，但是受保护的类别仍然是不允许使用的），已经饱受暴力犯罪困扰的社区可能会经历额外的重新（暴力）犯罪。