元方说·生命科学篇⑤｜如果用AI来解码人脑会怎样？(5)

成都前沿类脑人工智能创新中心
封面新闻：人工智能、脑机接口如何规避道德风险？
徐鹏：总的来说，人工智能和脑机接口都可视为一种新兴的技术，虽然它们的发展前景十分广阔，但是也存在着一些道德风险。我个人认为，需要考虑通过以下方面来规避道德风险——
首先，我们需要建立合适的伦理框架，规范人工智能和脑机接口技术的应用范围与限制，保障人类的尊严和权益。这些框架可以由政府、学术界和产业界等多方共同建立，制定相应的法律和规章制度。
其次，需要注重数据隐私和保护。在开发人工智能和脑机接口技术时，要保护用户的隐私权，不收集不必要的数据，避免数据滥用和泄露。同时，要建立有效的数据管理机制，保证数据的安全性和隐私性。
再次，保证透明度和可解释性。人工智能和脑机接口技术需要具有可解释性，即能够清晰地表明其决策依据和过程，便于用户理解和接受。同时，要提高技术透明度，使其运作和影响可见可控。
最后，进行相关知识普及和教育。加强公众对人工智能和脑机接口技术的了解和认知，提高大众科学素质和技术素养，以减少误解和不当使用。
以上所提方面只是其中一部分。实际上，规避道德风险需要多方共同努力，包括政府、学术界、产业界、公众等各方的合作和参与，以保证人工智能和脑机接口技术的可持续发展和合理应用。
封面新闻：作为成都市政协委员，您的建议是什么，如何避免GPT带来的风险？
徐鹏：我作为成都市政协委员，结合我的专业和成都市在未来几年的经济社会发展需要，我提出的两个建议都是和人工智能相关的。其中一个是针对以GPT为代表的新一批人工智能热潮，针对人工智能应用和开发法规政策的制定，建议政府需要制定相应的政策，在符合社会伦理、政策法规的前提下，合理引导、规范化使用AI技术，需要明确定义在哪些领域场合可以使用人工智能技术，需要明确规定当AI技术生成的内容和国家法律、道德规范产生冲突后，究竟是由哪一方作为责任主体来承担相应的责任等，为人工智能的合理运用提供指导。
另外一个建议主要是针对成都市未来5年的经济发展布局的需求，以及目前为止在成都还未孵化出具有全国影响力的人工智能研究中心、人工智能在成都的发展还相对落后的现状，建议加快成都市人工智能产业研究布局，助力提升经济发展，从政策、资金等方面扶持人工智能的研发，推动人工智能的落地，培养人工智能人才培养储备，建立孵化出具有全国乃至世界影响力的人工智能研究中心企业。