度小满首席技术官许冬亮：金融大模型落地有三大挑战

(相关资料图)

AIGC的发展正在从概念开始走向落地应用，金融行业作为AI应用场景密集的行业，大模型技术如何落地成为公众密切关注的领域之一。8月23日，在北大光华度小满“金融大模型”技术与应用论坛上，度小满首席技术官（CTO）许冬亮表示，金融行业数字化基础好，高度依赖数据和技术，是大模型落地的高潜力场景，但现阶段想在金融领域发挥大模型的能力，仍有三个挑战需要解决。

首要挑战是目前通用模型能力不能满足金融场景需要。在许冬亮看来，通用大模型本身精度不够，而行业数据流通性非常差进一步造成大模型金融知识缺失。“做通用模型的公司和机构几乎没有办法获取到这些数据，那他们的模型自然也不具备这方面的知识。”许冬亮表示，同时金融对时效要求高，要求大模型必须能够实时跟踪金融市场的变化和趋势，但目前大模型快速更新迭代困难不小。

其次，大模型高效植入现有业务场景仍面临比较大的挑战。在实际探索过程中，一个团队需要既懂业务场景，又要理解大模型的使用方法，同时还需具备较强的工程能力，才可能选择出适合应用大模型的场景，并高效地将大模型嵌入到实际业务流程中去。“大模型的微调和提示词工程等等都是很有技巧的。”许冬亮表示，但就当下而言，具备这样能力的公司和团队是极少的，懂大模型技术的大多没有具体的行业经验，行业老兵又对大模型的技术理解不够深入，需要时间去磨合和培养。

大模型生成内容的安全合规和隐私保护问题也备受业内关注。“金融本身是一个高合规要求的行业，加上大模型是颠覆性的新技术，我们对它的风险还没有完全了解，监管部门对它的落地应用也比较审慎。”许冬亮称，8月15日，《生成式人工智能服务管理暂行办法》落地实施，随着大模型落地的不断推进，如何平衡大模型落地收益和大模型风险控制，是一个越来越突出的问题。

“上面这三大挑战是整个行业都会碰到的关键挑战，而每家机构独立去解决这些问题既是不现实的，也是不经济的。”在许冬亮看来，未来行业需要进一步整合国内顶尖高校及金融机构资源，降低大模型落地应用的门槛。据他透露，2023年5月，度小满开源了自研千亿参数金融大模型“轩辕”，截至目前已经有超过百家金融机构申请试用，落地了营销、客服、办公、研发等场景，近期团队还将开源发布轩辕2.0金融大模型。

关键词：