夏然｜我国算法歧视的类型、根源及协同治理路径探究(11)

其次，在算法投入运行阶段，相比于事前审查的价值指引作用，事中的审查发挥的则是对算法运行是否有可能产生歧视等风险的评估作用。由于算法运行以后由于技术问题从而导致歧视决策存在隐蔽性，这就需要在技术专业性上更占优势的行业协会对运行中的算法技术发挥审查作用。通过审查算法运行是否产生了在算法设计时未存在的价值偏向，并评测在存在价值偏向下的算法运行机制产生歧视性决策结果的可能性，以及其是否建立了完善合规的风险防控体系来有效应对此类风险。对于评测结果不合格的企业，应报送到算法监管部门进行整顿。通过事前及事中的审查以期规范算法经营者的从业规范，建立算法行业的监督或审查机制，以实现行业协会、算法经营者及监管部门的协同治理。
4.监管部门建立明晰的算法安全监管体系
关于算法安全监管体系的建立，首先应明确算法的监管主体，从《互联网信息服务算法推荐管理规定》来看，主要以国家网信办及地方网信办负责统筹协调算法服务治理及监督工作，电信、公安、市场监管等有关部门则依据各自职责负责算法推荐服务监督管理工作。虽然多部门的监管可以统筹各部门资源使得算法治理更为充分，但部门设置过多容易产生内部协调性不足，职责分配混乱等问题反而会降低监管效率，因此应优化监管机构，专门建立统一且专业的算法管理部门。对于具体部门岗位或工作人员的设置，监管部门应积极吸引不同背景的算法行业技术人才以提高监管部门的算法治理素养，也有学者认为可“通过建立技术专家库、法律专家库、产业发展专家库的方式，为本机构的工作提供全面客观的方案与建议。”其次，对于算法歧视的具体治理路径，应在遵循算法伦理等一般性原理的前提下，细化监管手段，根据不同的算法行业、用户规模、所依据的数据重要程度及所运用的场景进行分类，建立差异化、分级分类管理制度。
在算法投入运行时，经营者需在规定时间向监管部门履行备案工作，监管部门应对备案材料进行审查，在对经营者的服务形式、应用领域、所运用的算法类型及算法评估报告等手续审查完毕后，方可发放备案编号并进行公示。而对于运行偏向自主化易产生隐形歧视的算法类型，更应加强对备案材料的审核，通过让经营者展示训练数据并产生决策结果来判断算法运行机制是否会产生歧视。此外，监管部门还可要求经营者在将此算法进行投入使用后产生的自主更新情况向监管部门及时备案，以实时监控算法是否可控。而对于自主化较低的算法类型，可采用一般审核流程，通过审核算法的设计标准、数据的收集及分类情况等一般信息进行审核，以提高算法运行透明度达到算法可解释性的目的为标准。对经营者的算法安全评估报告进行审核，确定其具有可掌控算法风险的能力方可通过。