为什么算法的公平性令人难以捉摸？(3)

大多数人（包括法律）都认为，在没有具体理由的情况下，根据受保护的类别做出决定，在道德上是应该受到谴责的。困难的是，当使用这些保护类别时，似乎可以有效地减少有害后果。这种取舍导致一些人采取了另一种方法来从算法上定义公平性。有没有办法可以最大限度地提高预测准确度（允许包含有理由的保护类别），同时仍然保持算法的公平性呢？
算法表现对特定群组应该同样有效。与忽略诸如种族和性别之类的受保护类别（例如色盲法-不区分肤色，或性别盲法-不区分性别）相反，这种公平性的方法认为，针对受保护的类别，算法表现的指标应该是相等的。例如，一个将罪犯分为高重犯风险和低重犯风险的算法应该使白人和黑人罪犯的预测误差相等。这种方法比色盲方法更不直观，但至少理论上使得算法在其预测时更有效，并且避免了一些棘手的判断要求的一些替代物带来的歧视，而那些替代物（例如邮政编码作为种族的粗糙替代物）是不允许用在算法中的。

不过，这种方法并不完美。要了解原因，很重要的一点是要了解不同的群组将代表不同的人群，他们的平均得分、偏差、偏度、峰度等都不同（见上图，想象一下使用相同的截止阈值（cutoff threshold）尝试让一个算法对每个群组曲线有同样的表现）。一般来说，当我们谈到公平性时，我们希望所有的人，不管他们属于哪个群组，都能遵守同样的标准。但是，如果对不同的人群使用相同的截止阈值，算法的预测能力和错误率很可能在不同的人群中有所不同 - 这只是统计工作方式的自然结果。如果政府监管迫使企业开发出来的算法，针对受保护的群组也能保持相同的表现，那么企业和机构就会被激励去采取故意歧视的做法，利用那些统计技巧和员工保密条款的灰暗地带大做文章。
通常这些公司和机构有两个选择：1.通过玩弄代码降低算法的质量和效率，从而使算法针对不同群组都会有相同的表现（这个选择会产生前面讨论的潜在危害，例如导致高风险评分的累犯被释放），或者2.公司可以对不同的人群采用不同的算法阈值，这样不同的人群（不同性别、种族、性取向的人群，等等）的截止阈值是不同的。但很明显，这似乎违背了公平的观念，通常在道德层面是不受欢迎的，并且也被认为是非法的（但有一个明显的例外是针对类似平权行动的算法）。对算法表现的强制均衡造成的对所有群体的负面影响不仅仅是理论上的，它们已经被记录在案。例如，在累犯风险评分数据库，以及预测警察在白人和黑人公民中发现违禁品可能性的数据库中。