数字法治｜潘芳芳：算法歧视的民事责任形态(9)

“理解算法运作的机理是监督并抵消处于优势地位的行为人‘算法权力’的重要前提，既能够避免行为人的恣意和武断，又可作为保证决策的可信、正当和理性的重要约束机制。”算法程序运作机理的解释、说明和披露的内容包括数据和程序两个方面。数据信息层面，除了数据收集过程中所要求的“明示收集、使用信息的目的、方式和范围，并经被收集者同意”等出于个人信息保护目的所要求的内容外，行为人应主动向被决策者告知和说明算法决策结果作出所依据的数据类别，具体来源、不同数据的权重以及所输入数据与最终决策结果之间的关联性等与算法程序运行相关的数据信息。此外，告知与披露过程中，针对被决策者对数据的相关信息所产生质疑和反馈，行为人也有义务进行进一步的解释和证明，并在发现问题与瑕疵时，作出修正和完善。与算法程序运行逻辑相关的信息包括引入算法程序的功能和目的、算法决策结果在最终决策中的重要性（即是否会对合同最终缔结与否产生实质性影响），决策结果可能存在的风险、会对被决策者产生的影响和后果等。
同数据信息披露一样，在被决策者针对程序运行机理问题尚有疑问的情况下，行为人也需要对相关内容进一步地解释和说明，在有必要的情况下修正和完善。被决策者在了解具体信息后，拒绝使用算法决策结果的，行为人理应支持和尊重。
鉴于专业知识的匮乏和“技术鸿沟”所导致的被决策者理解障碍，行为人信息告知和披露义务的履行方式也需要满足一定的要求：告知需要通过“简单透明、明晰且容易获取的方式，清楚明确的语言，合适的方式”进行；信息的提供需满足“简洁明了、清晰可见、晓畅易读”的要求，以实现“相对人对告知的内容有明确而清晰的认知和了解”的目的。披露与告知的最终目的，在于被决策者的“知情且同意”。即，只有被决策者对合同缔结中算法程序的功能、运行机理和参与度等内容均充分知情、理解并予以同意的情况下，行为人才能够在磋商过程中引入算法决策系统，并根据算法决策的结果决定合同缔约与否。
2. 保护义务——歧视风险的评估、审计与预防
从算法程序运行的自身特性出发，无论是数据层面上，如使用了有偏见的、不具有代表性的训练数据，或者数据的体量、精细度不够，还是程序自身（融入了程序员的认知偏见或程序设计目的中的偏见）存在偏见等，都可能导致歧视性后果的产生。所以行为人的评估与审计对象也应当既包括基础数据和信息，又包括算法程序自身。为避免作为自变量的数据的种类、范围和质量的负面影响，行为人在运用算法程序对缔约对象进行分类、评估或者数字画像时，有必要进行“脱敏”处理，避免带有歧视色彩的数据和歧视数据关联数据的使用，并保证输入的数据和信息来源合法、内容完整、准确。