夏然｜我国算法歧视的类型、根源及协同治理路径探究(10)

由此可知，提升算法的透明度无法从技术逻辑入手，而算法运行的基础——数据可以成为新的入手点，建立完善的筛选数据标准，要求企业采取各种措施确保算法输入数据的公平性，如，“基于预测置信度改变分类标签、采样和权值调整，干扰训练数据采集等可以有效控制算法训练数据的失真。”通过针对算法数据预处理的方式，使得数据分类更为合理，数据群体的多样性更为充分以实现后续算法决策的公平性。而在安全评估阶段，可要求“企业在合理范围内展示输入的变量数据，及其对结果的影响，以便通过‘反事实解释’评估算法是否存在歧视或偏见。”若企业可证明其可掌控算法运行的风险并已经建立了安全评估机制，应对政府作出承诺，以书面形式制定算法风险防控与安全评估的应对方案并向政府备案，使得政府在事中监管或事后问责时有据可依，实现算法治理的内外部有效互动。
而对于一些无法证明其风险可控，且投入运行不存在必要性的算法，应禁止投入使用。最后，在算法正式投入使用之后，企业应邀请行业协会或政府监管部门以及社会团体进行算法运行及算法合规体系的评测，积极吸收各方评测建议并以此来不断优化算法的风险或安全评估制度，不仅使内部的算法合规体系更加完善，也营造了企业严谨、负责的社会形象。
3.赋予算法行业协会对企业的审查权
为贯彻落实国家政策，倡导算法企业、平台自觉担负职责，我国于2001年即成立了中国互联网协会，以规范互联网企业行为、协调纠纷、加强企业间的沟通协作维护行业及用户整体利益为基本任务。而在2018年5月9日，由国家互联网信息办公室作为主管单位，10家全国性网络社会组织自愿发起成立了中国首个网络社会组织联合会。联合会以统筹协调社会资源，凝聚组织力量，引导网络主体互相学习、共同进步等为宗旨参与网络社会治理。对于网络社会下的负面效应算法歧视的治理，行业协会也可发挥不可替代的作用。
首先，行业协会可对算法企业运行算法技术发挥事前审查的作用，该审查并非是针对算法技术的审查，而是对算法技术所遵循的伦理、价值倾向的审查。通常来看，算法平台为获得利益，会在算法技术中设立较多的价值引导以使用户在使用过程中获得更多个性化的算法推荐从而赚取流量。这虽然提升了用户的关注度使企业获得更多的收益，但用户所获取的推荐内容的质量无法获得保障。从今日头条涉嫌身份歧视一案中就可以看出，由于算法技术在设计阶段，信息质量在综合指标中所占的权重远没有流量指标权重高，导致推荐内容的质量堪忧。行业协会事前审查可对算法企业在算法设计阶段的价值导向发挥监督作用，以此保证算法技术的价值倾向以有利于社会和谐稳定、增强公民福祉为宗旨运行算法，从而在价值导向上降低算法歧视性决策结果的发生。