为什么算法的公平性令人难以捉摸？(5)

虽然对B2C公司来说，使用这些技术似乎有点罕见，但是B2C公司往往会因为在这些方面的歧视而蒙受利润损失，所以对B2B公司而言，仍然存在使用这些技术的动机。例如，广告匹配公司就有动机，将特定的群体推到高于或低于临界值的水平，以便证明基于受保护类别定位广告目标的合理性。不难想象，政治家们或游说者会被这些方法的力量所吸引，从而利用它们来左右舆论，同时留下很少的把柄，或者错综复杂的迷雾。（我只是说，如果美国参议员无法理解Facebook的商业模式，我对他们理解这一问题的信心是……嗯，不乐观。）
算法公平性面临的挑战
每种定义算法公平性的方法都有其优缺点。我认为最令人不安的不是每种方法所面临的弱点，而是这些方法从根本上说是互不兼容的。当使用受保护类别作为检测算法公平性的基线时，我们不能忽略受保护类别。我们不能要求相似的算法错误率，同时要求相似的风险评分在群组间必然会产生相似的结果。定义算法公平性的竞赛还在进行中。但我的道德心理学背景也让我停下来思虑再三。民主党人、共和党人和自由主义者对什么是算法公平性无法达成一致，而我也认为把算法公平性当作一个数学和计算机科学问题来对待有点过于乐观了。问题不在于解决一些复杂的统计学魔方难题，而在于它试图在一个只能捕捉阴影的洞穴墙上体现柏拉图式完美的公平形式。很难预测我们会采用哪种解决方案，以及当这些解决方案与监管和经济激励措施相互作用时，会产生什么样的成本。算法公平性，从根本上来讲，是一个社会道德问题。
如果你喜欢这篇文章，就点个赞吧！
原文：: https://hackernoon.com/why-algorithmic-fairness-is-elusive-sf7v323b
本文为 CSDN 翻译，转载请注明来源出处。
【End】