“智行天下，责在人工：探索人工智能大模型负责任应用”金融科技伦理座谈会成功举办

5月24日，“智行天下，责在人工：探索人工智能大模型负责任应用”金融科技伦理座谈会在陆家嘴举办。本次活动由中国人民银行浙江省分行、中国人民银行安徽省分行指导，浙江大学金融科技研究院提供学术指导，浙江数字金融科技联合会、蚂蚁集团研究院、新葡京网址、安徽省数字金融科技协会、江苏省数字金融协会、华东师范大学长三角金融科技研究院共同主办，森浦为活动支持单位。

浙江数字金融科技联合会会长、浙江大学国际联合商学院院长贲圣林，蚂蚁集团研究院院长李振华，华东师范大学长三角金融科技研究院院长陈琦伟，中国社科院科学技术和社会研究中心主任、浙江金融科技伦理（专业）委员会委员段伟文，江苏省数字金融协会会长、苏商银行董事长黄金老，上海金融与发展实验室主任曾刚，安徽省数字金融科技协会秘书长王强，新葡京网址副秘书长肖波，上海市软科学研究基地、上海大学上海科技金融研究所执行所长、新葡京网址副秘书长孟添，蚂蚁集团全面风险管理部AI风险治理总监杨舟等出席本次座谈会。

贲圣林在开场致辞中表达了他对于全球领先的经济体系和科技创新重镇——长三角区域实现一体化的热切期盼。他进而引出了此次座谈的核心议题：“智行天下，责在人工”，强调推动金融科技行业的伦理与责任，乃是每位金融界人士的共同使命。同时，他也提及，自己所担任院长的浙大国际联合商学院和北京前沿金融监管科技研究院一直致力于在金融科技领域的研究探索，积极推动人工智能技术负责任应用，力求在技术进步的同时，确保其在伦理和社会责任方面的平衡与发展。

李振华在开场致辞中提到，2021年蚂蚁积极参与并推动在浙江数字金融科技联合会成立“金融科技伦理专业委员会”。随着金融领域AI大模型应用的探索发展，新兴技术的应用也带来了一系列新的挑战，包括数据采集训练缺乏安全性、大模型训练和应用成本高效率低、大模型缺乏稳定性和安全性等，值得业界共同关注。蚂蚁集团自启动“AI first”战略以来，全力推动AI赋能各大业务场景，包括把平等普惠的金融服务带给消费者和每一个小微企业。政府、产业界、研究机构以及学术界需要展开深入的沟通与协作，共同寻求解决方案，推动形成更广泛的行业共识。

陈琦伟在开场致辞中提到，金融科技伦理是一个又长又厚的雪道，目前对金融伦理并没有展开真正意义上的讨论，仅仅是在提出阶段。陈琦伟认为伦理问题的重要性就在于它是金融科技的“道”，唯有透过金融科技的“术”去观瞻它背后的哲理，才能够真正意义上提高现行金融机构工作模式的效率；此外，陈琦伟还指出伦理问题的解决也有利于解决科技为何而进步的方向问题。

黄金老发表了主题为“人工智能在银行业的有效应用治理”的演讲，从业务智能化和管理智能化两个板块介绍了江苏银行业开发和应用AI技术的一些实践，包括智能客服、客户风险画像生成、研发代码助手、金融市场城投债报告助手等。此外，他还介绍了银行业AI应用面临的资源挑战、技术挑战、制度挑战，并就这三个挑战给出建议。

段伟文发表了主题为“金融领域AI大模型伦理治理的综合工具箱”的演讲，分别讲述了通用人工智能的大模型与生成空间的形成、生成式人工智能的长期风险和现实的社会伦理风险、生成式人工智能在金融领域的应用及其主要风险，以及负责任和可问责的⾦融大模型伦理治理初探四个方面的内容。

曾刚在主题为“负责任的数字金融”的演讲中提到，目前银行对人工智能的实践应用还处在非常初级的阶段。他指出在金融大模型的监管侧，人们难以解释大模型如何运作；在用户与金融机构交互的过程中，诸如恶意投诉等一系列的消费者责任问题始终存在；在国家对金融消费者保护的层面，应当持续关注负责任的金融理念和监管内容的细化。

张瑞东发表了主题为“关于大模型产生虚假讯息如何应对：A discussion on AIGC disinformation issues”的演讲，在演讲中他主要强调了AIGC模型的局限性及潜在的产生虚假的信息问题，认为在特定应用场景对AIGC提供的答案要有交叉验证机制而不是直接接受或引用。张瑞东提到，目前AIGC的自我纠错能力及机制还有没有形成，模型的迭代及叠加很可能会导致信息可信度的降低，也会导致对AI应用的悲观预期，所以价值对齐及信息交叉验证的第三方机制在未来十分重要。此外，张瑞东认为站在应用者角度，也需要学习与AI共处，对AI养成一个健康的心态，不要盲目信从。

杨舟发表了主题为“金融领域科技伦理实践探索与思考”的演讲，他首先介绍了当前生成式AI在金融行业内的应用情况，随后讲述了蚂蚁集团目前在AI应用方面已取得的成就，比如将判别式AI和卫星遥感技术结合，提高农业贷款的效率，将生成式AI应用到智能投顾，希望让所有的老百姓能够享受到高端的理财服务。同时，杨舟也提到了生成式AI的应用也面临着怎样能够使大模型更加可靠、可控的挑战。对此，蚂蚁从6个部分来建设自身的科技伦理体系，包括制定伦理原则、建设伦理组织、加强科技人员宣传教育和培训等。最后，杨舟把金融科技伦理系统的治理思路总结为“两守一攻”，既通过大模型内部自我加固（内生安全）和外挂的防御体系（外生安全）加强防控，又通过伦理风险的评测来以攻助守，提升蚂蚁整体大模型的可控性和可靠性。

在圆桌讨论阶段，专家学者们围绕着“从政府政策、行业、企业三个层面讨论如何避免技术滥用，构建公正和负责任的人工智能金融系统”的主题展开讨论。段伟文站在政府的角度向大家分享了科技伦理审查、适应性许可制度；张瑞东从行业管理的角度出发，谈论了生成式人工智能虚假信息的鉴别及监管机制如何实施，嵌入式信息使用来源披露的行业自律及标准；朱斌从行业协会的角度分享了在“如何避免技术滥用，构建公正和负责的人工智能金融系统”上的观点；刘志毅从专业研究的角度，谈论了超级人工智能在对齐AI伦理治理上宜采取的措施；王洪志在谈话中结合了盈天地的实践，谈论了金融科技企业在避免技术滥用，构建公正和负责的人工智能金融系统上的经验、体会与建议；杨致结合科大讯飞的实践谈论了作为专业技术厂商在开发人工智能应用时应如何内嵌伦理考量，以及在和金融机构进行大模型应用合作时，技术厂商应如何同金融机构合作以确保产品的安全性和透明度的问题。